diff --git a/.gitattributes b/.gitattributes index 8787181622ce361dfea55ccd1d43f49d58e8beb4..b272b1a3cbe0e90657d92ea725a2a9637f1387a5 100644 --- a/.gitattributes +++ b/.gitattributes @@ -74,3 +74,7 @@ JEPA/artifacts/wjepa_adult_best_refine_v1/logs/gpu1.log filter=lfs diff=lfs merg JEPA/artifacts/wjepa_adult_best_refine_v1/logs/gpu3.log filter=lfs diff=lfs merge=lfs -text JEPA/artifacts/wjepa_adult_refine_v1/logs/gpu0.log filter=lfs diff=lfs merge=lfs -text JEPA/artifacts/wjepa_adult_refine_v1/logs/gpu1.log filter=lfs diff=lfs merge=lfs -text +JEPA/artifacts/wjepa_covertype_asymmetric_sweep/logs/gpu0.log filter=lfs diff=lfs merge=lfs -text +JEPA/artifacts/wjepa_covertype_asymmetric_sweep/logs/gpu1.log filter=lfs diff=lfs merge=lfs -text +JEPA/artifacts/wjepa_covertype_asymmetric_sweep/logs/gpu2.log filter=lfs diff=lfs merge=lfs -text +JEPA/artifacts/wjepa_covertype_asymmetric_sweep/logs/gpu3.log filter=lfs diff=lfs merge=lfs -text diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/logs/q6-gpu3-delay60-kl1e-7.exit_code b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/logs/q6-gpu3-delay60-kl1e-7.exit_code new file mode 100644 index 0000000000000000000000000000000000000000..573541ac9702dd3969c9bc859d2b91ec1f7e6e56 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/logs/q6-gpu3-delay60-kl1e-7.exit_code @@ -0,0 +1 @@ +0 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/logs/q6-gpu3-delay60-kl1e-7.log b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/logs/q6-gpu3-delay60-kl1e-7.log new file mode 100644 index 0000000000000000000000000000000000000000..39993cb4d53c2db57472628ccc6fb2342438376c --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/logs/q6-gpu3-delay60-kl1e-7.log @@ -0,0 +1,27335 @@ +[2026-09-18T03:24:05+00:00] [q6-gpu3-delay60-kl1e-7] Staggering startup by 50s for VRAM safety... +[2026-09-18T03:24:55+00:00] tag=q6-gpu3-delay60-kl1e-7 gpu=3 dataset=covertype kl_start=60 kl_anneal=40 kl_end=0.00000010 patience=25 +{ + "dataset": "covertype", + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "25", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "1e-07", + "--vtjepa_kl_y_annealing_epochs", + "40", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "60", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} +Not SLURM job. +╒══════════════════════════════════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ mock │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ activation_checkpointing │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ deterministic_mode │ warn │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pre_evaluation │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 512 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 500 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 25 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ improvement │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_val_cache_cadence │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ init_type │ trunc_normal │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_start_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_lr │ 0.0005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 12 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_ipe_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_gradient_clipping │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_type_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_index_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dropout_prob │ 0.0015 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_hidden │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_feedforward │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_heads │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_layers │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_act_func │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_cadence │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_model │ linear_probe │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ n_cls_tokens │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_type │ transformer │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_layers │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_embed_dim │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_heads │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_p_dropout │ 0.002 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_activation │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_dim_feedforward │ 256 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_allow_overlap │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_ctx_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_ctx_share │ 0.35 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_trgt_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_trgt_share │ 0.6 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_preds │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_encs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mu_init_std │ 0.03 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_std │ 0.005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_bias │ -4.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_x_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_y_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_evaluation_epochs │ 50 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_probe_patience │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_representation_type │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_encoder_type │ target_posterior │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_target_posterior │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_auxiliary_encoder │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_end_weight │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_end_weight │ 1e-07 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_annealing_epochs │ 40 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_epoch │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ predictive_target_detach │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_x_weight │ 0.001 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_y_weight │ 0.5 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ latent_architecture │ stochastic │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ jepa_objective │ w_jepa_joint │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_full_num_projections │ 2048 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_marginal_num_projections │ 1024 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_p │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_include_marginals │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_x_weight │ 0.00075 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_z_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_y_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_end_weight │ 0.001875 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ safe_exit │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_selection │ filtered_20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sigma_aggregation │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ subset_size │ -1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ is_batchlearning │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ iteration │ 0 │ +╘══════════════════════════════════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════╛ + +CUDA Device Information: +CUDA_VISIBLE_DEVICES: 3 +Number of CUDA devices: 1 +Current CUDA device: 0 +CUDA device name: NVIDIA A100-SXM4-80GB + +Using device: cuda:0 +Device name: NVIDIA A100-SXM4-80GB +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +VariationalTJEPA parameters: ++-------------------------+---------+ +| Parameter | Value | ++=========================+=========+ +| hidden_dim | 64 | ++-------------------------+---------+ +| num_layers | 8 | ++-------------------------+---------+ +| num_heads | 8 | ++-------------------------+---------+ +| p_dropout | 0.0015 | ++-------------------------+---------+ +| layer_norm_eps | 1e-05 | ++-------------------------+---------+ +| feature_type_embedding | True | ++-------------------------+---------+ +| feature_index_embedding | True | ++-------------------------+---------+ +| dim_feedforward | 64 | ++-------------------------+---------+ +| use_reg_token | True | ++-------------------------+---------+ +| gradient_clipping | 1.0 | ++-------------------------+---------+ +| activation | gelu | ++-------------------------+---------+ +| num_features | 54 | ++-------------------------+---------+ +| n_cls_tokens | 1 | ++-------------------------+---------+ +MaskCollator params: +----------------- ----- +Allow overlap False +Min context share 0.15 +Max context share 0.35 +Min target share 0.15 +Max target share 0.6 +Min context 8 +Max context 18 +Min target 8 +Max target 32 +Num preds 4 +Num encs 1 +Num features 54 +Cardinalities [] +Base mask seed 0 +----------------- ----- +KL-x annealing: start=0.0 for 20 steps, then anneal to 1e-06 over 1200 steps. +KL-z annealing: start=0.0 for 20 steps, then anneal to 1e-05 over 1200 steps. +KL-y annealing: start=0.0 for 1200 steps, then anneal to 1e-07 over 800 steps. +W-JEPA marginal-scale annealing (s_x): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (z): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (s_y): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +Configuration saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/vtjepa_config.yaml +All results will be saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512 +[VTJEPA] Running downstream probe before training begins +Using full dataset for embedding generation: covertype +Generating embedding using: JEPAEmbeddingEncoder on full dataset + 0%| | 0/20 [00:00= 25) +[VTJEPA] Early stopping triggered at epoch 138 + Best downstream validation score: 0.758750 at epoch 87 + No improvement for 25 probe evaluations +Restored best downstream-selected checkpoint from epoch 87. +Training completed. +[2026-09-18T04:35:08+00:00] tag=q6-gpu3-delay60-kl1e-7 dataset=covertype starting downstream models=mlp,dcnv2,resnet,autoint,fttransformer +[Config] Loaded sigma_aggregation=mean from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/vtjepa_config.yaml +[Config] Loaded training data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/vtjepa_config.yaml +Split statistics: + val: 999 samples + test: 2000 samples + train: 7001 samples +Running downstream for dataset 'covertype', model 'mlp'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpxp_6tcfj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpxp_6tcfj/output_0.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpxp_6tcfj/output_0.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpxp_6tcfj/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 250.73it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7127127051353455 │ +│ covertype_val_f1-score │ 0.6970093846321106 │ +│ covertype_val_loss │ 0.6860320568084717 │ +│ covertype_val_precision │ 0.7119272351264954 │ +│ covertype_val_recall │ 0.7127127051353455 │ +│ covertype_val_score │ 0.7127127051353455 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 452.92it/s +Validation metrics: [{'covertype_val_loss': 0.6860320568084717, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7127127051353455, 'covertype_val_precision': 0.7119272351264954, 'covertype_val_recall': 0.7127127051353455, 'covertype_val_f1-score': 0.6970093846321106, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7127127051353455}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 888 samples (44.40%) + Class 2: 924 samples (46.20%) + Class 3: 16 samples (0.80%) + Class 4: 152 samples (7.60%) + Class 5: 20 samples (1.00%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6984999775886536 │ +│ covertype_test_f1-score │ 0.6833729147911072 │ +│ covertype_test_loss │ 0.6952381730079651 │ +│ covertype_test_precision │ 0.7013537287712097 │ +│ covertype_test_recall │ 0.6984999775886536 │ +│ covertype_test_score │ 0.6984999775886536 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 482.13it/s +Test metrics: [{'covertype_test_loss': 0.6952381730079651, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6984999775886536, 'covertype_test_precision': 0.7013537287712097, 'covertype_test_recall': 0.6984999775886536, 'covertype_test_f1-score': 0.6833729147911072, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6984999775886536}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 871 samples (45.84%) + Class 2: 923 samples (48.58%) + Class 3: 15 samples (0.79%) + Class 4: 71 samples (3.74%) + Class 5: 20 samples (1.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7053 +covertype_test_precision 5% removed: 0.7137 +covertype_test_recall 5% removed: 0.7053 +covertype_test_f1-score 5% removed: 0.6941 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 846 samples (47.00%) + Class 2: 913 samples (50.72%) + Class 3: 13 samples (0.72%) + Class 4: 13 samples (0.72%) + Class 5: 15 samples (0.83%) +============================================================ +covertype_test_accuracy 10% removed: 0.7061 +covertype_test_precision 10% removed: 0.7161 +covertype_test_recall 10% removed: 0.7061 +covertype_test_f1-score 10% removed: 0.6954 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 1: 768 samples (48.00%) + Class 2: 815 samples (50.94%) + Class 3: 10 samples (0.62%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7125 +covertype_test_precision 20% removed: 0.7200 +covertype_test_recall 20% removed: 0.7125 +covertype_test_f1-score 20% removed: 0.7016 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 1: 496 samples (49.60%) + Class 2: 503 samples (50.30%) + Class 3: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7440 +covertype_test_precision 50% removed: 0.7433 +covertype_test_recall 50% removed: 0.7440 +covertype_test_f1-score 50% removed: 0.7358 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpxp_6tcfj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpxp_6tcfj/output_1.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpxp_6tcfj/output_1.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpxp_6tcfj/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 30/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 257.74it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7317317128181458 │ +│ covertype_val_f1-score │ 0.7183646559715271 │ +│ covertype_val_loss │ 0.6428225040435791 │ +│ covertype_val_precision │ 0.7159141898155212 │ +│ covertype_val_recall │ 0.7317317128181458 │ +│ covertype_val_score │ 0.7317317128181458 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 473.02it/s +Validation metrics: [{'covertype_val_loss': 0.6428225040435791, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7317317128181458, 'covertype_val_precision': 0.7159141898155212, 'covertype_val_recall': 0.7317317128181458, 'covertype_val_f1-score': 0.7183646559715271, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7317317128181458}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 2 samples (0.10%) + Class 1: 1125 samples (56.25%) + Class 2: 613 samples (30.65%) + Class 3: 58 samples (2.90%) + Class 4: 173 samples (8.65%) + Class 5: 23 samples (1.15%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7174999713897705 │ +│ covertype_test_f1-score │ 0.7058348059654236 │ +│ covertype_test_loss │ 0.6370790004730225 │ +│ covertype_test_precision │ 0.7069097757339478 │ +│ covertype_test_recall │ 0.7174999713897705 │ +│ covertype_test_score │ 0.7174999713897705 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 449.72it/s +Test metrics: [{'covertype_test_loss': 0.6370790004730225, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7174999713897705, 'covertype_test_precision': 0.7069097757339478, 'covertype_test_recall': 0.7174999713897705, 'covertype_test_f1-score': 0.7058348059654236, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7174999713897705}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 2 samples (0.11%) + Class 1: 1123 samples (59.11%) + Class 2: 613 samples (32.26%) + Class 3: 56 samples (2.95%) + Class 4: 88 samples (4.63%) + Class 5: 17 samples (0.89%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7274 +covertype_test_precision 5% removed: 0.7173 +covertype_test_recall 5% removed: 0.7274 +covertype_test_f1-score 5% removed: 0.7176 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 2 samples (0.11%) + Class 1: 1105 samples (61.39%) + Class 2: 607 samples (33.72%) + Class 3: 53 samples (2.94%) + Class 4: 21 samples (1.17%) + Class 5: 11 samples (0.61%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7344 +covertype_test_precision 10% removed: 0.7215 +covertype_test_recall 10% removed: 0.7344 +covertype_test_f1-score 10% removed: 0.7245 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 2 samples (0.12%) + Class 1: 1006 samples (62.88%) + Class 2: 535 samples (33.44%) + Class 3: 47 samples (2.94%) + Class 4: 3 samples (0.19%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7375 +covertype_test_precision 20% removed: 0.7250 +covertype_test_recall 20% removed: 0.7375 +covertype_test_f1-score 20% removed: 0.7270 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 1: 649 samples (64.90%) + Class 2: 344 samples (34.40%) + Class 3: 7 samples (0.70%) +============================================================ +covertype_test_accuracy 50% removed: 0.7530 +covertype_test_precision 50% removed: 0.7472 +covertype_test_recall 50% removed: 0.7530 +covertype_test_f1-score 50% removed: 0.7421 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpxp_6tcfj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpxp_6tcfj/output_2.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpxp_6tcfj/output_2.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpxp_6tcfj/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 47/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 234.67it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7357357144355774 │ +│ covertype_val_f1-score │ 0.7276341915130615 │ +│ covertype_val_loss │ 0.647601842880249 │ +│ covertype_val_precision │ 0.7312560677528381 │ +│ covertype_val_recall │ 0.7357357144355774 │ +│ covertype_val_score │ 0.7357357144355774 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 355.91it/s +Validation metrics: [{'covertype_val_loss': 0.647601842880249, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7357357144355774, 'covertype_val_precision': 0.7312560677528381, 'covertype_val_recall': 0.7357357144355774, 'covertype_val_f1-score': 0.7276341915130615, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7357357144355774}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 928 samples (46.40%) + Class 2: 831 samples (41.55%) + Class 3: 50 samples (2.50%) + Class 4: 152 samples (7.60%) + Class 5: 37 samples (1.85%) + Class 6: 2 samples (0.10%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.722000002861023 │ +│ covertype_test_f1-score │ 0.7137495875358582 │ +│ covertype_test_loss │ 0.6354341506958008 │ +│ covertype_test_precision │ 0.7155523300170898 │ +│ covertype_test_recall │ 0.722000002861023 │ +│ covertype_test_score │ 0.722000002861023 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 359.13it/s +Test metrics: [{'covertype_test_loss': 0.6354341506958008, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.722000002861023, 'covertype_test_precision': 0.7155523300170898, 'covertype_test_recall': 0.722000002861023, 'covertype_test_f1-score': 0.7137495875358582, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.722000002861023}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 921 samples (48.47%) + Class 2: 831 samples (43.74%) + Class 3: 48 samples (2.53%) + Class 4: 65 samples (3.42%) + Class 5: 34 samples (1.79%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7316 +covertype_test_precision 5% removed: 0.7275 +covertype_test_recall 5% removed: 0.7316 +covertype_test_f1-score 5% removed: 0.7260 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 904 samples (50.22%) + Class 2: 823 samples (45.72%) + Class 3: 45 samples (2.50%) + Class 4: 11 samples (0.61%) + Class 5: 16 samples (0.89%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7372 +covertype_test_precision 10% removed: 0.7317 +covertype_test_recall 10% removed: 0.7372 +covertype_test_f1-score 10% removed: 0.7307 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 1: 818 samples (51.12%) + Class 2: 738 samples (46.12%) + Class 3: 39 samples (2.44%) + Class 5: 5 samples (0.31%) +============================================================ +covertype_test_accuracy 20% removed: 0.7406 +covertype_test_precision 20% removed: 0.7317 +covertype_test_recall 20% removed: 0.7406 +covertype_test_f1-score 20% removed: 0.7335 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 1: 511 samples (51.10%) + Class 2: 483 samples (48.30%) + Class 3: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7620 +covertype_test_precision 50% removed: 0.7546 +covertype_test_recall 50% removed: 0.7620 +covertype_test_f1-score 50% removed: 0.7560 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpxp_6tcfj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpxp_6tcfj/output_3.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpxp_6tcfj/output_3.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpxp_6tcfj/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 214.37it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7217217087745667 │ +│ covertype_val_f1-score │ 0.7008419632911682 │ +│ covertype_val_loss │ 0.6405425071716309 │ +│ covertype_val_precision │ 0.7123633623123169 │ +│ covertype_val_recall │ 0.7217217087745667 │ +│ covertype_val_score │ 0.7217217087745667 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 380.31it/s +Validation metrics: [{'covertype_val_loss': 0.6405425071716309, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7217217087745667, 'covertype_val_precision': 0.7123633623123169, 'covertype_val_recall': 0.7217217087745667, 'covertype_val_f1-score': 0.7008419632911682, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7217217087745667}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 1 samples (0.05%) + Class 1: 1219 samples (60.95%) + Class 2: 556 samples (27.80%) + Class 3: 26 samples (1.30%) + Class 4: 181 samples (9.05%) + Class 5: 17 samples (0.85%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7170000076293945 │ +│ covertype_test_f1-score │ 0.698291003704071 │ +│ covertype_test_loss │ 0.6434072852134705 │ +│ covertype_test_precision │ 0.7134692668914795 │ +│ covertype_test_recall │ 0.7170000076293945 │ +│ covertype_test_score │ 0.7170000076293945 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 370.66it/s +Test metrics: [{'covertype_test_loss': 0.6434072852134705, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7170000076293945, 'covertype_test_precision': 0.7134692668914795, 'covertype_test_recall': 0.7170000076293945, 'covertype_test_f1-score': 0.698291003704071, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7170000076293945}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 1 samples (0.05%) + Class 1: 1215 samples (63.95%) + Class 2: 555 samples (29.21%) + Class 3: 25 samples (1.32%) + Class 4: 88 samples (4.63%) + Class 5: 16 samples (0.84%) +============================================================ +covertype_test_accuracy 5% removed: 0.7258 +covertype_test_precision 5% removed: 0.7221 +covertype_test_recall 5% removed: 0.7258 +covertype_test_f1-score 5% removed: 0.7101 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 1197 samples (66.50%) + Class 2: 549 samples (30.50%) + Class 3: 22 samples (1.22%) + Class 4: 18 samples (1.00%) + Class 5: 13 samples (0.72%) +============================================================ +covertype_test_accuracy 10% removed: 0.7328 +covertype_test_precision 10% removed: 0.7284 +covertype_test_recall 10% removed: 0.7328 +covertype_test_f1-score 10% removed: 0.7169 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 1088 samples (68.00%) + Class 2: 480 samples (30.00%) + Class 3: 20 samples (1.25%) + Class 4: 1 samples (0.06%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7331 +covertype_test_precision 20% removed: 0.7317 +covertype_test_recall 20% removed: 0.7331 +covertype_test_f1-score 20% removed: 0.7168 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 1: 694 samples (69.40%) + Class 2: 304 samples (30.40%) + Class 3: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7420 +covertype_test_precision 50% removed: 0.7476 +covertype_test_recall 50% removed: 0.7420 +covertype_test_f1-score 50% removed: 0.7252 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpxp_6tcfj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpxp_6tcfj/output_4.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpxp_6tcfj/output_4.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpxp_6tcfj/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 238.49it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7267267107963562 │ +│ covertype_val_f1-score │ 0.7154574990272522 │ +│ covertype_val_loss │ 0.6509480476379395 │ +│ covertype_val_precision │ 0.7131695747375488 │ +│ covertype_val_recall │ 0.7267267107963562 │ +│ covertype_val_score │ 0.7267267107963562 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 371.02it/s +Validation metrics: [{'covertype_val_loss': 0.6509480476379395, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7267267107963562, 'covertype_val_precision': 0.7131695747375488, 'covertype_val_recall': 0.7267267107963562, 'covertype_val_f1-score': 0.7154574990272522, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7267267107963562}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 983 samples (49.15%) + Class 2: 792 samples (39.60%) + Class 3: 47 samples (2.35%) + Class 4: 154 samples (7.70%) + Class 5: 20 samples (1.00%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7229999899864197 │ +│ covertype_test_f1-score │ 0.7127742171287537 │ +│ covertype_test_loss │ 0.6268290877342224 │ +│ covertype_test_precision │ 0.7138643860816956 │ +│ covertype_test_recall │ 0.7229999899864197 │ +│ covertype_test_score │ 0.7229999899864197 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 343.52it/s +Test metrics: [{'covertype_test_loss': 0.6268290877342224, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7229999899864197, 'covertype_test_precision': 0.7138643860816956, 'covertype_test_recall': 0.7229999899864197, 'covertype_test_f1-score': 0.7127742171287537, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7229999899864197}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 976 samples (51.37%) + Class 2: 792 samples (41.68%) + Class 3: 45 samples (2.37%) + Class 4: 74 samples (3.89%) + Class 5: 12 samples (0.63%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7311 +covertype_test_precision 5% removed: 0.7224 +covertype_test_recall 5% removed: 0.7311 +covertype_test_f1-score 5% removed: 0.7228 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 955 samples (53.06%) + Class 2: 784 samples (43.56%) + Class 3: 42 samples (2.33%) + Class 4: 13 samples (0.72%) + Class 5: 5 samples (0.28%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7361 +covertype_test_precision 10% removed: 0.7265 +covertype_test_recall 10% removed: 0.7361 +covertype_test_f1-score 10% removed: 0.7279 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 1: 867 samples (54.19%) + Class 2: 693 samples (43.31%) + Class 3: 36 samples (2.25%) + Class 5: 4 samples (0.25%) +============================================================ +covertype_test_accuracy 20% removed: 0.7425 +covertype_test_precision 20% removed: 0.7297 +covertype_test_recall 20% removed: 0.7425 +covertype_test_f1-score 20% removed: 0.7346 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 1: 563 samples (56.30%) + Class 2: 431 samples (43.10%) + Class 3: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7580 +covertype_test_precision 50% removed: 0.7464 +covertype_test_recall 50% removed: 0.7580 +covertype_test_f1-score 50% removed: 0.7512 +Wrote results for mlp on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/mlp_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7156±0.0123 5%: 0.7242±0.0135 10%: 0.7293±0.0163 20%: 0.7332±0.0151 50%: 0.7518±0.0108 +covertype_test_precision 0%: 0.7102±0.0074 5%: 0.7206±0.0066 10%: 0.7248±0.0076 20%: 0.7276±0.0063 50%: 0.7478±0.0051 +covertype_test_recall 0%: 0.7156±0.0123 5%: 0.7242±0.0135 10%: 0.7293±0.0163 20%: 0.7332±0.0151 50%: 0.7518±0.0108 +covertype_test_f1-score 0%: 0.7028±0.0155 5%: 0.7141±0.0158 10%: 0.7191±0.0176 20%: 0.7227±0.0171 50%: 0.7420±0.0152 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'dcnv2'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp2u1bvvxz/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp2u1bvvxz/output_0.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp2u1bvvxz/output_0.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp2u1bvvxz/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 143.92it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7847847938537598 │ +│ covertype_val_f1-score │ 0.7794890403747559 │ +│ covertype_val_loss │ 0.5487809777259827 │ +│ covertype_val_precision │ 0.777529239654541 │ +│ covertype_val_recall │ 0.7847847938537598 │ +│ covertype_val_score │ 0.7847847938537598 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 262.91it/s +Validation metrics: [{'covertype_val_loss': 0.5487809777259827, 'lr': 0.0, 'covertype_val_accuracy': 0.7847847938537598, 'covertype_val_precision': 0.777529239654541, 'covertype_val_recall': 0.7847847938537598, 'covertype_val_f1-score': 0.7794890403747559, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7847847938537598}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 1022 samples (51.10%) + Class 2: 714 samples (35.70%) + Class 3: 58 samples (2.90%) + Class 4: 135 samples (6.75%) + Class 5: 49 samples (2.45%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7940000295639038 │ +│ covertype_test_f1-score │ 0.7920457720756531 │ +│ covertype_test_loss │ 0.5594765543937683 │ +│ covertype_test_precision │ 0.7933734059333801 │ +│ covertype_test_recall │ 0.7940000295639038 │ +│ covertype_test_score │ 0.7940000295639038 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 280.48it/s +Test metrics: [{'covertype_test_loss': 0.5594765543937683, 'lr': 0.0, 'covertype_test_accuracy': 0.7940000295639038, 'covertype_test_precision': 0.7933734059333801, 'covertype_test_recall': 0.7940000295639038, 'covertype_test_f1-score': 0.7920457720756531, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7940000295639038}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 1013 samples (53.32%) + Class 2: 713 samples (37.53%) + Class 3: 57 samples (3.00%) + Class 4: 63 samples (3.32%) + Class 5: 36 samples (1.89%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.8011 +covertype_test_precision 5% removed: 0.8004 +covertype_test_recall 5% removed: 0.8011 +covertype_test_f1-score 5% removed: 0.7995 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 991 samples (55.06%) + Class 2: 703 samples (39.06%) + Class 3: 54 samples (3.00%) + Class 4: 14 samples (0.78%) + Class 5: 20 samples (1.11%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.8067 +covertype_test_precision 10% removed: 0.8045 +covertype_test_recall 10% removed: 0.8067 +covertype_test_f1-score 10% removed: 0.8044 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 896 samples (56.00%) + Class 2: 630 samples (39.38%) + Class 3: 46 samples (2.88%) + Class 4: 3 samples (0.19%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.8106 +covertype_test_precision 20% removed: 0.8083 +covertype_test_recall 20% removed: 0.8106 +covertype_test_f1-score 20% removed: 0.8086 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 552 samples (55.20%) + Class 2: 428 samples (42.80%) + Class 3: 11 samples (1.10%) + Class 4: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8210 +covertype_test_precision 50% removed: 0.8199 +covertype_test_recall 50% removed: 0.8210 +covertype_test_f1-score 50% removed: 0.8198 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp2u1bvvxz/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp2u1bvvxz/output_1.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp2u1bvvxz/output_1.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp2u1bvvxz/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 160.06it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7857857942581177 │ +│ covertype_val_f1-score │ 0.7821796536445618 │ +│ covertype_val_loss │ 0.5606786608695984 │ +│ covertype_val_precision │ 0.7806345820426941 │ +│ covertype_val_recall │ 0.7857857942581177 │ +│ covertype_val_score │ 0.7857857942581177 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 262.98it/s +Validation metrics: [{'covertype_val_loss': 0.5606786608695984, 'lr': 0.0, 'covertype_val_accuracy': 0.7857857942581177, 'covertype_val_precision': 0.7806345820426941, 'covertype_val_recall': 0.7857857942581177, 'covertype_val_f1-score': 0.7821796536445618, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7857857942581177}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1035 samples (51.75%) + Class 2: 701 samples (35.05%) + Class 3: 58 samples (2.90%) + Class 4: 125 samples (6.25%) + Class 5: 60 samples (3.00%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7935000061988831 │ +│ covertype_test_f1-score │ 0.7918710112571716 │ +│ covertype_test_loss │ 0.5851204991340637 │ +│ covertype_test_precision │ 0.7927172780036926 │ +│ covertype_test_recall │ 0.7935000061988831 │ +│ covertype_test_score │ 0.7935000061988831 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 281.97it/s +Test metrics: [{'covertype_test_loss': 0.5851204991340637, 'lr': 0.0, 'covertype_test_accuracy': 0.7935000061988831, 'covertype_test_precision': 0.7927172780036926, 'covertype_test_recall': 0.7935000061988831, 'covertype_test_f1-score': 0.7918710112571716, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7935000061988831}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 16 samples (0.84%) + Class 1: 1024 samples (53.89%) + Class 2: 700 samples (36.84%) + Class 3: 57 samples (3.00%) + Class 4: 59 samples (3.11%) + Class 5: 43 samples (2.26%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.8005 +covertype_test_precision 5% removed: 0.8004 +covertype_test_recall 5% removed: 0.8005 +covertype_test_f1-score 5% removed: 0.7990 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 1003 samples (55.72%) + Class 2: 690 samples (38.33%) + Class 3: 54 samples (3.00%) + Class 4: 13 samples (0.72%) + Class 5: 23 samples (1.28%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.8078 +covertype_test_precision 10% removed: 0.8065 +covertype_test_recall 10% removed: 0.8078 +covertype_test_f1-score 10% removed: 0.8056 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 913 samples (57.06%) + Class 2: 613 samples (38.31%) + Class 3: 46 samples (2.88%) + Class 4: 1 samples (0.06%) + Class 5: 13 samples (0.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.8106 +covertype_test_precision 20% removed: 0.8106 +covertype_test_recall 20% removed: 0.8106 +covertype_test_f1-score 20% removed: 0.8081 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 565 samples (56.50%) + Class 2: 417 samples (41.70%) + Class 3: 10 samples (1.00%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8160 +covertype_test_precision 50% removed: 0.8142 +covertype_test_recall 50% removed: 0.8160 +covertype_test_f1-score 50% removed: 0.8140 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp2u1bvvxz/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp2u1bvvxz/output_2.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp2u1bvvxz/output_2.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp2u1bvvxz/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 169.66it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7767767906188965 │ +│ covertype_val_f1-score │ 0.7711300253868103 │ +│ covertype_val_loss │ 0.5588559508323669 │ +│ covertype_val_precision │ 0.7679666876792908 │ +│ covertype_val_recall │ 0.7767767906188965 │ +│ covertype_val_score │ 0.7767767906188965 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 310.34it/s +Validation metrics: [{'covertype_val_loss': 0.5588559508323669, 'lr': 0.0, 'covertype_val_accuracy': 0.7767767906188965, 'covertype_val_precision': 0.7679666876792908, 'covertype_val_recall': 0.7767767906188965, 'covertype_val_f1-score': 0.7711300253868103, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7767767906188965}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 1029 samples (51.45%) + Class 2: 702 samples (35.10%) + Class 3: 60 samples (3.00%) + Class 4: 136 samples (6.80%) + Class 5: 50 samples (2.50%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7774999737739563 │ +│ covertype_test_f1-score │ 0.7755425572395325 │ +│ covertype_test_loss │ 0.5717126727104187 │ +│ covertype_test_precision │ 0.7764326930046082 │ +│ covertype_test_recall │ 0.7774999737739563 │ +│ covertype_test_score │ 0.7774999737739563 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 330.57it/s +Test metrics: [{'covertype_test_loss': 0.5717126727104187, 'lr': 0.0, 'covertype_test_accuracy': 0.7774999737739563, 'covertype_test_precision': 0.7764326930046082, 'covertype_test_recall': 0.7774999737739563, 'covertype_test_f1-score': 0.7755425572395325, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7774999737739563}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 1019 samples (53.63%) + Class 2: 702 samples (36.95%) + Class 3: 58 samples (3.05%) + Class 4: 66 samples (3.47%) + Class 5: 37 samples (1.95%) +============================================================ +covertype_test_accuracy 5% removed: 0.7837 +covertype_test_precision 5% removed: 0.7810 +covertype_test_recall 5% removed: 0.7837 +covertype_test_f1-score 5% removed: 0.7817 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 18 samples (1.00%) + Class 1: 997 samples (55.39%) + Class 2: 693 samples (38.50%) + Class 3: 55 samples (3.06%) + Class 4: 20 samples (1.11%) + Class 5: 17 samples (0.94%) +============================================================ +covertype_test_accuracy 10% removed: 0.7894 +covertype_test_precision 10% removed: 0.7862 +covertype_test_recall 10% removed: 0.7894 +covertype_test_f1-score 10% removed: 0.7872 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 16 samples (1.00%) + Class 1: 907 samples (56.69%) + Class 2: 617 samples (38.56%) + Class 3: 46 samples (2.88%) + Class 4: 7 samples (0.44%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7944 +covertype_test_precision 20% removed: 0.7923 +covertype_test_recall 20% removed: 0.7944 +covertype_test_f1-score 20% removed: 0.7926 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 560 samples (56.00%) + Class 2: 417 samples (41.70%) + Class 3: 12 samples (1.20%) + Class 4: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.8010 +covertype_test_precision 50% removed: 0.8001 +covertype_test_recall 50% removed: 0.8010 +covertype_test_f1-score 50% removed: 0.8001 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp2u1bvvxz/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp2u1bvvxz/output_3.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp2u1bvvxz/output_3.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp2u1bvvxz/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 167.91it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7747747898101807 │ +│ covertype_val_f1-score │ 0.7709988951683044 │ +│ covertype_val_loss │ 0.5673476457595825 │ +│ covertype_val_precision │ 0.7686360478401184 │ +│ covertype_val_recall │ 0.7747747898101807 │ +│ covertype_val_score │ 0.7747747898101807 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 269.74it/s +Validation metrics: [{'covertype_val_loss': 0.5673476457595825, 'lr': 0.0, 'covertype_val_accuracy': 0.7747747898101807, 'covertype_val_precision': 0.7686360478401184, 'covertype_val_recall': 0.7747747898101807, 'covertype_val_f1-score': 0.7709988951683044, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7747747898101807}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 1024 samples (51.20%) + Class 2: 706 samples (35.30%) + Class 3: 59 samples (2.95%) + Class 4: 135 samples (6.75%) + Class 5: 55 samples (2.75%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7885000109672546 │ +│ covertype_test_f1-score │ 0.7866873145103455 │ +│ covertype_test_loss │ 0.5757465362548828 │ +│ covertype_test_precision │ 0.7879011631011963 │ +│ covertype_test_recall │ 0.7885000109672546 │ +│ covertype_test_score │ 0.7885000109672546 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 339.08it/s +Test metrics: [{'covertype_test_loss': 0.5757465362548828, 'lr': 0.0, 'covertype_test_accuracy': 0.7885000109672546, 'covertype_test_precision': 0.7879011631011963, 'covertype_test_recall': 0.7885000109672546, 'covertype_test_f1-score': 0.7866873145103455, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7885000109672546}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 1015 samples (53.42%) + Class 2: 706 samples (37.16%) + Class 3: 57 samples (3.00%) + Class 4: 67 samples (3.53%) + Class 5: 38 samples (2.00%) +============================================================ +covertype_test_accuracy 5% removed: 0.7947 +covertype_test_precision 5% removed: 0.7926 +covertype_test_recall 5% removed: 0.7947 +covertype_test_f1-score 5% removed: 0.7929 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 992 samples (55.11%) + Class 2: 696 samples (38.67%) + Class 3: 54 samples (3.00%) + Class 4: 20 samples (1.11%) + Class 5: 21 samples (1.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7989 +covertype_test_precision 10% removed: 0.7965 +covertype_test_recall 10% removed: 0.7989 +covertype_test_f1-score 10% removed: 0.7970 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 900 samples (56.25%) + Class 2: 621 samples (38.81%) + Class 3: 46 samples (2.88%) + Class 4: 7 samples (0.44%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.8031 +covertype_test_precision 20% removed: 0.8019 +covertype_test_recall 20% removed: 0.8031 +covertype_test_f1-score 20% removed: 0.8018 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 552 samples (55.20%) + Class 2: 427 samples (42.70%) + Class 3: 9 samples (0.90%) + Class 4: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.8030 +covertype_test_precision 50% removed: 0.8034 +covertype_test_recall 50% removed: 0.8030 +covertype_test_f1-score 50% removed: 0.8026 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp2u1bvvxz/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp2u1bvvxz/output_4.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp2u1bvvxz/output_4.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp2u1bvvxz/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 199.78it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.770770788192749 │ +│ covertype_val_f1-score │ 0.7636842727661133 │ +│ covertype_val_loss │ 0.5847501158714294 │ +│ covertype_val_precision │ 0.7610617876052856 │ +│ covertype_val_recall │ 0.770770788192749 │ +│ covertype_val_score │ 0.770770788192749 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.866357686405536e-07 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 463.65it/s +Validation metrics: [{'covertype_val_loss': 0.5847501158714294, 'lr': 9.866357686405536e-07, 'covertype_val_accuracy': 0.770770788192749, 'covertype_val_precision': 0.7610617876052856, 'covertype_val_recall': 0.770770788192749, 'covertype_val_f1-score': 0.7636842727661133, 'covertype_val_support': 999.0, 'covertype_val_score': 0.770770788192749}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 20 samples (1.00%) + Class 1: 1015 samples (50.75%) + Class 2: 717 samples (35.85%) + Class 3: 59 samples (2.95%) + Class 4: 135 samples (6.75%) + Class 5: 50 samples (2.50%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7795000076293945 │ +│ covertype_test_f1-score │ 0.7779466509819031 │ +│ covertype_test_loss │ 0.566081702709198 │ +│ covertype_test_precision │ 0.7790786027908325 │ +│ covertype_test_recall │ 0.7795000076293945 │ +│ covertype_test_score │ 0.7795000076293945 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.866358823273913e-07 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 476.15it/s +Test metrics: [{'covertype_test_loss': 0.566081702709198, 'lr': 9.866358823273913e-07, 'covertype_test_accuracy': 0.7795000076293945, 'covertype_test_precision': 0.7790786027908325, 'covertype_test_recall': 0.7795000076293945, 'covertype_test_f1-score': 0.7779466509819031, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7795000076293945}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 19 samples (1.00%) + Class 1: 1006 samples (52.95%) + Class 2: 716 samples (37.68%) + Class 3: 58 samples (3.05%) + Class 4: 65 samples (3.42%) + Class 5: 35 samples (1.84%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7868 +covertype_test_precision 5% removed: 0.7864 +covertype_test_recall 5% removed: 0.7868 +covertype_test_f1-score 5% removed: 0.7856 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 19 samples (1.06%) + Class 1: 983 samples (54.61%) + Class 2: 707 samples (39.28%) + Class 3: 55 samples (3.06%) + Class 4: 18 samples (1.00%) + Class 5: 18 samples (1.00%) +============================================================ +covertype_test_accuracy 10% removed: 0.7911 +covertype_test_precision 10% removed: 0.7883 +covertype_test_recall 10% removed: 0.7911 +covertype_test_f1-score 10% removed: 0.7892 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 16 samples (1.00%) + Class 1: 891 samples (55.69%) + Class 2: 630 samples (39.38%) + Class 3: 47 samples (2.94%) + Class 4: 5 samples (0.31%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7987 +covertype_test_precision 20% removed: 0.7970 +covertype_test_recall 20% removed: 0.7987 +covertype_test_f1-score 20% removed: 0.7973 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 558 samples (55.80%) + Class 2: 419 samples (41.90%) + Class 3: 13 samples (1.30%) + Class 4: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.8120 +covertype_test_precision 50% removed: 0.8122 +covertype_test_recall 50% removed: 0.8120 +covertype_test_f1-score 50% removed: 0.8114 +Wrote results for dcnv2 on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/dcnv2_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7866±0.0096 5%: 0.7934±0.0098 10%: 0.7988±0.0106 20%: 0.8035±0.0089 50%: 0.8106±0.0106 +covertype_test_precision 0%: 0.7859±0.0097 5%: 0.7921±0.0106 10%: 0.7964±0.0114 20%: 0.8020±0.0095 50%: 0.8099±0.0100 +covertype_test_recall 0%: 0.7866±0.0096 5%: 0.7934±0.0098 10%: 0.7988±0.0106 20%: 0.8035±0.0089 50%: 0.8106±0.0106 +covertype_test_f1-score 0%: 0.7848±0.0096 5%: 0.7917±0.0099 10%: 0.7967±0.0105 20%: 0.8017±0.0085 50%: 0.8096±0.0101 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'resnet'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpwj43iem5/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpwj43iem5/output_0.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpwj43iem5/output_0.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpwj43iem5/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 155.48it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7637637853622437 │ +│ covertype_val_f1-score │ 0.7612478137016296 │ +│ covertype_val_loss │ 0.5845953226089478 │ +│ covertype_val_precision │ 0.7596954107284546 │ +│ covertype_val_recall │ 0.7637637853622437 │ +│ covertype_val_score │ 0.7637637853622437 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 336.10it/s +Validation metrics: [{'covertype_val_loss': 0.5845953226089478, 'lr': 0.0, 'covertype_val_accuracy': 0.7637637853622437, 'covertype_val_precision': 0.7596954107284546, 'covertype_val_recall': 0.7637637853622437, 'covertype_val_f1-score': 0.7612478137016296, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7637637853622437}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 25 samples (1.25%) + Class 1: 1020 samples (51.00%) + Class 2: 700 samples (35.00%) + Class 3: 62 samples (3.10%) + Class 4: 121 samples (6.05%) + Class 5: 67 samples (3.35%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7835000157356262 │ +│ covertype_test_f1-score │ 0.783331036567688 │ +│ covertype_test_loss │ 0.5479215979576111 │ +│ covertype_test_precision │ 0.7839362025260925 │ +│ covertype_test_recall │ 0.7835000157356262 │ +│ covertype_test_score │ 0.7835000157356262 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 393.61it/s +Test metrics: [{'covertype_test_loss': 0.5479215979576111, 'lr': 0.0, 'covertype_test_accuracy': 0.7835000157356262, 'covertype_test_precision': 0.7839362025260925, 'covertype_test_recall': 0.7835000157356262, 'covertype_test_f1-score': 0.783331036567688, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7835000157356262}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 23 samples (1.21%) + Class 1: 1013 samples (53.32%) + Class 2: 699 samples (36.79%) + Class 3: 61 samples (3.21%) + Class 4: 57 samples (3.00%) + Class 5: 46 samples (2.42%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7895 +covertype_test_precision 5% removed: 0.7909 +covertype_test_recall 5% removed: 0.7895 +covertype_test_f1-score 5% removed: 0.7893 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 21 samples (1.17%) + Class 1: 993 samples (55.17%) + Class 2: 691 samples (38.39%) + Class 3: 56 samples (3.11%) + Class 4: 13 samples (0.72%) + Class 5: 26 samples (1.44%) +============================================================ +covertype_test_accuracy 10% removed: 0.7939 +covertype_test_precision 10% removed: 0.7935 +covertype_test_recall 10% removed: 0.7939 +covertype_test_f1-score 10% removed: 0.7926 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 897 samples (56.06%) + Class 2: 620 samples (38.75%) + Class 3: 48 samples (3.00%) + Class 4: 5 samples (0.31%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7981 +covertype_test_precision 20% removed: 0.7971 +covertype_test_recall 20% removed: 0.7981 +covertype_test_f1-score 20% removed: 0.7973 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 11 samples (1.10%) + Class 1: 559 samples (55.90%) + Class 2: 418 samples (41.80%) + Class 3: 12 samples (1.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.8030 +covertype_test_precision 50% removed: 0.8019 +covertype_test_recall 50% removed: 0.8030 +covertype_test_f1-score 50% removed: 0.8021 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpwj43iem5/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpwj43iem5/output_1.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpwj43iem5/output_1.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpwj43iem5/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 179.27it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7577577829360962 │ +│ covertype_val_f1-score │ 0.7511199712753296 │ +│ covertype_val_loss │ 0.6091848611831665 │ +│ covertype_val_precision │ 0.750266969203949 │ +│ covertype_val_recall │ 0.7577577829360962 │ +│ covertype_val_score │ 0.7577577829360962 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 421.33it/s +Validation metrics: [{'covertype_val_loss': 0.6091848611831665, 'lr': 0.0, 'covertype_val_accuracy': 0.7577577829360962, 'covertype_val_precision': 0.750266969203949, 'covertype_val_recall': 0.7577577829360962, 'covertype_val_f1-score': 0.7511199712753296, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7577577829360962}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 29 samples (1.45%) + Class 1: 1015 samples (50.75%) + Class 2: 742 samples (37.10%) + Class 3: 47 samples (2.35%) + Class 4: 122 samples (6.10%) + Class 5: 41 samples (2.05%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.781000018119812 │ +│ covertype_test_f1-score │ 0.7792443633079529 │ +│ covertype_test_loss │ 0.5711759924888611 │ +│ covertype_test_precision │ 0.7813184261322021 │ +│ covertype_test_recall │ 0.781000018119812 │ +│ covertype_test_score │ 0.781000018119812 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 406.13it/s +Test metrics: [{'covertype_test_loss': 0.5711759924888611, 'lr': 0.0, 'covertype_test_accuracy': 0.781000018119812, 'covertype_test_precision': 0.7813184261322021, 'covertype_test_recall': 0.781000018119812, 'covertype_test_f1-score': 0.7792443633079529, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.781000018119812}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 27 samples (1.42%) + Class 1: 997 samples (52.47%) + Class 2: 740 samples (38.95%) + Class 3: 47 samples (2.47%) + Class 4: 62 samples (3.26%) + Class 5: 26 samples (1.37%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7868 +covertype_test_precision 5% removed: 0.7874 +covertype_test_recall 5% removed: 0.7868 +covertype_test_f1-score 5% removed: 0.7856 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 23 samples (1.28%) + Class 1: 974 samples (54.11%) + Class 2: 730 samples (40.56%) + Class 3: 44 samples (2.44%) + Class 4: 15 samples (0.83%) + Class 5: 13 samples (0.72%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7917 +covertype_test_precision 10% removed: 0.7899 +covertype_test_recall 10% removed: 0.7917 +covertype_test_f1-score 10% removed: 0.7895 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 886 samples (55.38%) + Class 2: 650 samples (40.62%) + Class 3: 36 samples (2.25%) + Class 4: 7 samples (0.44%) + Class 5: 6 samples (0.38%) +============================================================ +covertype_test_accuracy 20% removed: 0.7962 +covertype_test_precision 20% removed: 0.7949 +covertype_test_recall 20% removed: 0.7962 +covertype_test_f1-score 20% removed: 0.7943 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 580 samples (58.00%) + Class 2: 406 samples (40.60%) + Class 3: 4 samples (0.40%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8070 +covertype_test_precision 50% removed: 0.8082 +covertype_test_recall 50% removed: 0.8070 +covertype_test_f1-score 50% removed: 0.8041 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpwj43iem5/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpwj43iem5/output_2.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpwj43iem5/output_2.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpwj43iem5/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 45/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 155.18it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7567567825317383 │ +│ covertype_val_f1-score │ 0.7540035843849182 │ +│ covertype_val_loss │ 0.6260364651679993 │ +│ covertype_val_precision │ 0.7619104385375977 │ +│ covertype_val_recall │ 0.7567567825317383 │ +│ covertype_val_score │ 0.7567567825317383 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 221.35it/s +Validation metrics: [{'covertype_val_loss': 0.6260364651679993, 'lr': 0.0, 'covertype_val_accuracy': 0.7567567825317383, 'covertype_val_precision': 0.7619104385375977, 'covertype_val_recall': 0.7567567825317383, 'covertype_val_f1-score': 0.7540035843849182, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7567567825317383}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 892 samples (44.60%) + Class 2: 855 samples (42.75%) + Class 3: 52 samples (2.60%) + Class 4: 118 samples (5.90%) + Class 5: 64 samples (3.20%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7699999809265137 │ +│ covertype_test_f1-score │ 0.769594132900238 │ +│ covertype_test_loss │ 0.5703848600387573 │ +│ covertype_test_precision │ 0.7812521457672119 │ +│ covertype_test_recall │ 0.7699999809265137 │ +│ covertype_test_score │ 0.7699999809265137 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 231.77it/s +Test metrics: [{'covertype_test_loss': 0.5703848600387573, 'lr': 0.0, 'covertype_test_accuracy': 0.7699999809265137, 'covertype_test_precision': 0.7812521457672119, 'covertype_test_recall': 0.7699999809265137, 'covertype_test_f1-score': 0.769594132900238, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7699999809265137}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 14 samples (0.74%) + Class 1: 875 samples (46.05%) + Class 2: 854 samples (44.95%) + Class 3: 51 samples (2.68%) + Class 4: 60 samples (3.16%) + Class 5: 46 samples (2.42%) +============================================================ +covertype_test_accuracy 5% removed: 0.7747 +covertype_test_precision 5% removed: 0.7866 +covertype_test_recall 5% removed: 0.7747 +covertype_test_f1-score 5% removed: 0.7743 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.78%) + Class 1: 855 samples (47.50%) + Class 2: 844 samples (46.89%) + Class 3: 48 samples (2.67%) + Class 4: 15 samples (0.83%) + Class 5: 24 samples (1.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.7800 +covertype_test_precision 10% removed: 0.7908 +covertype_test_recall 10% removed: 0.7800 +covertype_test_f1-score 10% removed: 0.7791 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 774 samples (48.38%) + Class 2: 758 samples (47.38%) + Class 3: 40 samples (2.50%) + Class 4: 4 samples (0.25%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7856 +covertype_test_precision 20% removed: 0.7958 +covertype_test_recall 20% removed: 0.7856 +covertype_test_f1-score 20% removed: 0.7853 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 478 samples (47.80%) + Class 2: 506 samples (50.60%) + Class 3: 9 samples (0.90%) +============================================================ +covertype_test_accuracy 50% removed: 0.7910 +covertype_test_precision 50% removed: 0.7995 +covertype_test_recall 50% removed: 0.7910 +covertype_test_f1-score 50% removed: 0.7902 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpwj43iem5/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpwj43iem5/output_3.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpwj43iem5/output_3.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpwj43iem5/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 149.83it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7797797918319702 │ +│ covertype_val_f1-score │ 0.7756581902503967 │ +│ covertype_val_loss │ 0.5824281573295593 │ +│ covertype_val_precision │ 0.7740602493286133 │ +│ covertype_val_recall │ 0.7797797918319702 │ +│ covertype_val_score │ 0.7797797918319702 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 242.62it/s +Validation metrics: [{'covertype_val_loss': 0.5824281573295593, 'lr': 0.0, 'covertype_val_accuracy': 0.7797797918319702, 'covertype_val_precision': 0.7740602493286133, 'covertype_val_recall': 0.7797797918319702, 'covertype_val_f1-score': 0.7756581902503967, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7797797918319702}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 23 samples (1.15%) + Class 1: 1020 samples (51.00%) + Class 2: 712 samples (35.60%) + Class 3: 64 samples (3.20%) + Class 4: 116 samples (5.80%) + Class 5: 62 samples (3.10%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7829999923706055 │ +│ covertype_test_f1-score │ 0.7815268039703369 │ +│ covertype_test_loss │ 0.5549430251121521 │ +│ covertype_test_precision │ 0.7812036275863647 │ +│ covertype_test_recall │ 0.7829999923706055 │ +│ covertype_test_score │ 0.7829999923706055 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 231.24it/s +Test metrics: [{'covertype_test_loss': 0.5549430251121521, 'lr': 0.0, 'covertype_test_accuracy': 0.7829999923706055, 'covertype_test_precision': 0.7812036275863647, 'covertype_test_recall': 0.7829999923706055, 'covertype_test_f1-score': 0.7815268039703369, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7829999923706055}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 22 samples (1.16%) + Class 1: 1007 samples (53.00%) + Class 2: 712 samples (37.47%) + Class 3: 62 samples (3.26%) + Class 4: 55 samples (2.89%) + Class 5: 42 samples (2.21%) +============================================================ +covertype_test_accuracy 5% removed: 0.7889 +covertype_test_precision 5% removed: 0.7863 +covertype_test_recall 5% removed: 0.7889 +covertype_test_f1-score 5% removed: 0.7874 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 19 samples (1.06%) + Class 1: 984 samples (54.67%) + Class 2: 706 samples (39.22%) + Class 3: 57 samples (3.17%) + Class 4: 12 samples (0.67%) + Class 5: 22 samples (1.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.7944 +covertype_test_precision 10% removed: 0.7924 +covertype_test_recall 10% removed: 0.7944 +covertype_test_f1-score 10% removed: 0.7923 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 895 samples (55.94%) + Class 2: 632 samples (39.50%) + Class 3: 49 samples (3.06%) + Class 4: 4 samples (0.25%) + Class 5: 8 samples (0.50%) +============================================================ +covertype_test_accuracy 20% removed: 0.7975 +covertype_test_precision 20% removed: 0.7947 +covertype_test_recall 20% removed: 0.7975 +covertype_test_f1-score 20% removed: 0.7950 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 545 samples (54.50%) + Class 2: 432 samples (43.20%) + Class 3: 15 samples (1.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8000 +covertype_test_precision 50% removed: 0.8003 +covertype_test_recall 50% removed: 0.8000 +covertype_test_f1-score 50% removed: 0.7993 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpwj43iem5/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpwj43iem5/output_4.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpwj43iem5/output_4.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpwj43iem5/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 140.66it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7857857942581177 │ +│ covertype_val_f1-score │ 0.7814545631408691 │ +│ covertype_val_loss │ 0.5571883916854858 │ +│ covertype_val_precision │ 0.77872633934021 │ +│ covertype_val_recall │ 0.7857857942581177 │ +│ covertype_val_score │ 0.7857857942581177 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0005000000237487257 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 173.19it/s +Validation metrics: [{'covertype_val_loss': 0.5571883916854858, 'lr': 0.0005000000237487257, 'covertype_val_accuracy': 0.7857857942581177, 'covertype_val_precision': 0.77872633934021, 'covertype_val_recall': 0.7857857942581177, 'covertype_val_f1-score': 0.7814545631408691, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7857857942581177}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 22 samples (1.10%) + Class 1: 1028 samples (51.40%) + Class 2: 713 samples (35.65%) + Class 3: 63 samples (3.15%) + Class 4: 132 samples (6.60%) + Class 5: 39 samples (1.95%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7850000262260437 │ +│ covertype_test_f1-score │ 0.7822020053863525 │ +│ covertype_test_loss │ 0.567616879940033 │ +│ covertype_test_precision │ 0.7831931114196777 │ +│ covertype_test_recall │ 0.7850000262260437 │ +│ covertype_test_score │ 0.7850000262260437 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0005000000819563866 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 173.60it/s +Test metrics: [{'covertype_test_loss': 0.567616879940033, 'lr': 0.0005000000819563866, 'covertype_test_accuracy': 0.7850000262260437, 'covertype_test_precision': 0.7831931114196777, 'covertype_test_recall': 0.7850000262260437, 'covertype_test_f1-score': 0.7822020053863525, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7850000262260437}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 21 samples (1.11%) + Class 1: 1010 samples (53.16%) + Class 2: 712 samples (37.47%) + Class 3: 62 samples (3.26%) + Class 4: 68 samples (3.58%) + Class 5: 27 samples (1.42%) +============================================================ +covertype_test_accuracy 5% removed: 0.7905 +covertype_test_precision 5% removed: 0.7873 +covertype_test_recall 5% removed: 0.7905 +covertype_test_f1-score 5% removed: 0.7884 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 20 samples (1.11%) + Class 1: 986 samples (54.78%) + Class 2: 706 samples (39.22%) + Class 3: 57 samples (3.17%) + Class 4: 14 samples (0.78%) + Class 5: 17 samples (0.94%) +============================================================ +covertype_test_accuracy 10% removed: 0.7961 +covertype_test_precision 10% removed: 0.7933 +covertype_test_recall 10% removed: 0.7961 +covertype_test_f1-score 10% removed: 0.7940 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 888 samples (55.50%) + Class 2: 637 samples (39.81%) + Class 3: 48 samples (3.00%) + Class 4: 5 samples (0.31%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.8006 +covertype_test_precision 20% removed: 0.7988 +covertype_test_recall 20% removed: 0.8006 +covertype_test_f1-score 20% removed: 0.7990 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 558 samples (55.80%) + Class 2: 423 samples (42.30%) + Class 3: 12 samples (1.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.8080 +covertype_test_precision 50% removed: 0.8069 +covertype_test_recall 50% removed: 0.8080 +covertype_test_f1-score 50% removed: 0.8065 +Wrote results for resnet on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/resnet_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7805±0.0075 5%: 0.7861±0.0081 10%: 0.7912±0.0080 20%: 0.7956±0.0072 50%: 0.8018±0.0085 +covertype_test_precision 0%: 0.7822±0.0016 5%: 0.7877±0.0023 10%: 0.7920±0.0019 20%: 0.7963±0.0021 50%: 0.8034±0.0049 +covertype_test_recall 0%: 0.7805±0.0075 5%: 0.7861±0.0081 10%: 0.7912±0.0080 20%: 0.7956±0.0072 50%: 0.8018±0.0085 +covertype_test_f1-score 0%: 0.7792±0.0069 5%: 0.7850±0.0076 10%: 0.7895±0.0075 20%: 0.7942±0.0066 50%: 0.8004±0.0078 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'autoint'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp8one67iz/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp8one67iz/output_0.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp8one67iz/output_0.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp8one67iz/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 46/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 91.08it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7527527809143066 │ +│ covertype_val_f1-score │ 0.7499064803123474 │ +│ covertype_val_loss │ 0.613537073135376 │ +│ covertype_val_precision │ 0.7490294575691223 │ +│ covertype_val_recall │ 0.7527527809143066 │ +│ covertype_val_score │ 0.7527527809143066 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 128.63it/s +Validation metrics: [{'covertype_val_loss': 0.613537073135376, 'lr': 8.856373824528418e-06, 'covertype_val_accuracy': 0.7527527809143066, 'covertype_val_precision': 0.7490294575691223, 'covertype_val_recall': 0.7527527809143066, 'covertype_val_f1-score': 0.7499064803123474, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7527527809143066}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 21 samples (1.05%) + Class 1: 991 samples (49.55%) + Class 2: 733 samples (36.65%) + Class 3: 60 samples (3.00%) + Class 4: 136 samples (6.80%) + Class 5: 56 samples (2.80%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7574999928474426 │ +│ covertype_test_f1-score │ 0.7560364603996277 │ +│ covertype_test_loss │ 0.5900191068649292 │ +│ covertype_test_precision │ 0.7572698593139648 │ +│ covertype_test_recall │ 0.7574999928474426 │ +│ covertype_test_score │ 0.7574999928474426 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 137.36it/s +Test metrics: [{'covertype_test_loss': 0.5900191068649292, 'lr': 8.856373824528418e-06, 'covertype_test_accuracy': 0.7574999928474426, 'covertype_test_precision': 0.7572698593139648, 'covertype_test_recall': 0.7574999928474426, 'covertype_test_f1-score': 0.7560364603996277, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7574999928474426}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 20 samples (1.05%) + Class 1: 984 samples (51.79%) + Class 2: 732 samples (38.53%) + Class 3: 59 samples (3.11%) + Class 4: 66 samples (3.47%) + Class 5: 39 samples (2.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7632 +covertype_test_precision 5% removed: 0.7617 +covertype_test_recall 5% removed: 0.7632 +covertype_test_f1-score 5% removed: 0.7619 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 20 samples (1.11%) + Class 1: 963 samples (53.50%) + Class 2: 723 samples (40.17%) + Class 3: 56 samples (3.11%) + Class 4: 16 samples (0.89%) + Class 5: 22 samples (1.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.7667 +covertype_test_precision 10% removed: 0.7650 +covertype_test_recall 10% removed: 0.7667 +covertype_test_f1-score 10% removed: 0.7653 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 17 samples (1.06%) + Class 1: 876 samples (54.75%) + Class 2: 645 samples (40.31%) + Class 3: 47 samples (2.94%) + Class 4: 4 samples (0.25%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7769 +covertype_test_precision 20% removed: 0.7755 +covertype_test_recall 20% removed: 0.7769 +covertype_test_f1-score 20% removed: 0.7757 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 549 samples (54.90%) + Class 2: 430 samples (43.00%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7840 +covertype_test_precision 50% removed: 0.7826 +covertype_test_recall 50% removed: 0.7840 +covertype_test_f1-score 50% removed: 0.7829 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp8one67iz/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp8one67iz/output_1.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp8one67iz/output_1.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp8one67iz/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 91.98it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.759759783744812 │ +│ covertype_val_f1-score │ 0.7564372420310974 │ +│ covertype_val_loss │ 0.6267668604850769 │ +│ covertype_val_precision │ 0.7564117908477783 │ +│ covertype_val_recall │ 0.759759783744812 │ +│ covertype_val_score │ 0.759759783744812 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.866357686405536e-07 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 114.24it/s +Validation metrics: [{'covertype_val_loss': 0.6267668604850769, 'lr': 9.866357686405536e-07, 'covertype_val_accuracy': 0.759759783744812, 'covertype_val_precision': 0.7564117908477783, 'covertype_val_recall': 0.759759783744812, 'covertype_val_f1-score': 0.7564372420310974, 'covertype_val_support': 999.0, 'covertype_val_score': 0.759759783744812}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 996 samples (49.80%) + Class 2: 739 samples (36.95%) + Class 3: 57 samples (2.85%) + Class 4: 130 samples (6.50%) + Class 5: 58 samples (2.90%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7505000233650208 │ +│ covertype_test_f1-score │ 0.7491222620010376 │ +│ covertype_test_loss │ 0.622303307056427 │ +│ covertype_test_precision │ 0.7509711384773254 │ +│ covertype_test_recall │ 0.7505000233650208 │ +│ covertype_test_score │ 0.7505000233650208 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.866358823273913e-07 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 111.92it/s +Test metrics: [{'covertype_test_loss': 0.622303307056427, 'lr': 9.866358823273913e-07, 'covertype_test_accuracy': 0.7505000233650208, 'covertype_test_precision': 0.7509711384773254, 'covertype_test_recall': 0.7505000233650208, 'covertype_test_f1-score': 0.7491222620010376, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7505000233650208}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 14 samples (0.74%) + Class 1: 988 samples (52.00%) + Class 2: 738 samples (38.84%) + Class 3: 56 samples (2.95%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7568 +covertype_test_precision 5% removed: 0.7575 +covertype_test_recall 5% removed: 0.7568 +covertype_test_f1-score 5% removed: 0.7554 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.78%) + Class 1: 966 samples (53.67%) + Class 2: 731 samples (40.61%) + Class 3: 52 samples (2.89%) + Class 4: 14 samples (0.78%) + Class 5: 22 samples (1.22%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7611 +covertype_test_precision 10% removed: 0.7603 +covertype_test_recall 10% removed: 0.7611 +covertype_test_f1-score 10% removed: 0.7591 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 873 samples (54.56%) + Class 2: 657 samples (41.06%) + Class 3: 44 samples (2.75%) + Class 4: 2 samples (0.12%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.7638 +covertype_test_precision 20% removed: 0.7632 +covertype_test_recall 20% removed: 0.7638 +covertype_test_f1-score 20% removed: 0.7617 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 548 samples (54.80%) + Class 2: 431 samples (43.10%) + Class 3: 12 samples (1.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7740 +covertype_test_precision 50% removed: 0.7725 +covertype_test_recall 50% removed: 0.7740 +covertype_test_f1-score 50% removed: 0.7729 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp8one67iz/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp8one67iz/output_2.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp8one67iz/output_2.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp8one67iz/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 46/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 94.58it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7497497200965881 │ +│ covertype_val_f1-score │ 0.7468005418777466 │ +│ covertype_val_loss │ 0.6335337162017822 │ +│ covertype_val_precision │ 0.7465426921844482 │ +│ covertype_val_recall │ 0.7497497200965881 │ +│ covertype_val_score │ 0.7497497200965881 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 131.65it/s +Validation metrics: [{'covertype_val_loss': 0.6335337162017822, 'lr': 8.856373824528418e-06, 'covertype_val_accuracy': 0.7497497200965881, 'covertype_val_precision': 0.7465426921844482, 'covertype_val_recall': 0.7497497200965881, 'covertype_val_f1-score': 0.7468005418777466, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7497497200965881}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1007 samples (50.35%) + Class 2: 722 samples (36.10%) + Class 3: 55 samples (2.75%) + Class 4: 133 samples (6.65%) + Class 5: 63 samples (3.15%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7670000195503235 │ +│ covertype_test_f1-score │ 0.7659381628036499 │ +│ covertype_test_loss │ 0.5901482701301575 │ +│ covertype_test_precision │ 0.7682400941848755 │ +│ covertype_test_recall │ 0.7670000195503235 │ +│ covertype_test_score │ 0.7670000195503235 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 130.00it/s +Test metrics: [{'covertype_test_loss': 0.5901482701301575, 'lr': 8.856373824528418e-06, 'covertype_test_accuracy': 0.7670000195503235, 'covertype_test_precision': 0.7682400941848755, 'covertype_test_recall': 0.7670000195503235, 'covertype_test_f1-score': 0.7659381628036499, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7670000195503235}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 999 samples (52.58%) + Class 2: 720 samples (37.89%) + Class 3: 55 samples (2.89%) + Class 4: 66 samples (3.47%) + Class 5: 44 samples (2.32%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7716 +covertype_test_precision 5% removed: 0.7732 +covertype_test_recall 5% removed: 0.7716 +covertype_test_f1-score 5% removed: 0.7707 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 980 samples (54.44%) + Class 2: 711 samples (39.50%) + Class 3: 52 samples (2.89%) + Class 4: 21 samples (1.17%) + Class 5: 22 samples (1.22%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7767 +covertype_test_precision 10% removed: 0.7767 +covertype_test_recall 10% removed: 0.7767 +covertype_test_f1-score 10% removed: 0.7752 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 891 samples (55.69%) + Class 2: 634 samples (39.62%) + Class 3: 44 samples (2.75%) + Class 4: 7 samples (0.44%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7837 +covertype_test_precision 20% removed: 0.7834 +covertype_test_recall 20% removed: 0.7837 +covertype_test_f1-score 20% removed: 0.7825 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 552 samples (55.20%) + Class 2: 428 samples (42.80%) + Class 3: 13 samples (1.30%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7860 +covertype_test_precision 50% removed: 0.7856 +covertype_test_recall 50% removed: 0.7860 +covertype_test_f1-score 50% removed: 0.7847 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp8one67iz/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp8one67iz/output_3.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp8one67iz/output_3.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp8one67iz/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 91.48it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7487487196922302 │ +│ covertype_val_f1-score │ 0.7468904852867126 │ +│ covertype_val_loss │ 0.63693767786026 │ +│ covertype_val_precision │ 0.7490258812904358 │ +│ covertype_val_recall │ 0.7487487196922302 │ +│ covertype_val_score │ 0.7487487196922302 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 113.10it/s +Validation metrics: [{'covertype_val_loss': 0.63693767786026, 'lr': 0.0, 'covertype_val_accuracy': 0.7487487196922302, 'covertype_val_precision': 0.7490258812904358, 'covertype_val_recall': 0.7487487196922302, 'covertype_val_f1-score': 0.7468904852867126, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7487487196922302}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 21 samples (1.05%) + Class 1: 984 samples (49.20%) + Class 2: 741 samples (37.05%) + Class 3: 61 samples (3.05%) + Class 4: 127 samples (6.35%) + Class 5: 63 samples (3.15%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7595000267028809 │ +│ covertype_test_f1-score │ 0.7585645318031311 │ +│ covertype_test_loss │ 0.58439701795578 │ +│ covertype_test_precision │ 0.7599571347236633 │ +│ covertype_test_recall │ 0.7595000267028809 │ +│ covertype_test_score │ 0.7595000267028809 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 145.87it/s +Test metrics: [{'covertype_test_loss': 0.58439701795578, 'lr': 0.0, 'covertype_test_accuracy': 0.7595000267028809, 'covertype_test_precision': 0.7599571347236633, 'covertype_test_recall': 0.7595000267028809, 'covertype_test_f1-score': 0.7585645318031311, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7595000267028809}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 19 samples (1.00%) + Class 1: 975 samples (51.32%) + Class 2: 740 samples (38.95%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) +============================================================ +covertype_test_accuracy 5% removed: 0.7642 +covertype_test_precision 5% removed: 0.7637 +covertype_test_recall 5% removed: 0.7642 +covertype_test_f1-score 5% removed: 0.7632 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 956 samples (53.11%) + Class 2: 731 samples (40.61%) + Class 3: 57 samples (3.17%) + Class 4: 17 samples (0.94%) + Class 5: 22 samples (1.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.7706 +covertype_test_precision 10% removed: 0.7696 +covertype_test_recall 10% removed: 0.7706 +covertype_test_f1-score 10% removed: 0.7692 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 16 samples (1.00%) + Class 1: 869 samples (54.31%) + Class 2: 654 samples (40.88%) + Class 3: 48 samples (3.00%) + Class 4: 6 samples (0.38%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7788 +covertype_test_precision 20% removed: 0.7773 +covertype_test_recall 20% removed: 0.7788 +covertype_test_f1-score 20% removed: 0.7775 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 538 samples (53.80%) + Class 2: 436 samples (43.60%) + Class 3: 16 samples (1.60%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7720 +covertype_test_precision 50% removed: 0.7726 +covertype_test_recall 50% removed: 0.7720 +covertype_test_f1-score 50% removed: 0.7720 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp8one67iz/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp8one67iz/output_4.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp8one67iz/output_4.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp8one67iz/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 104.48it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7477477192878723 │ +│ covertype_val_f1-score │ 0.7436390519142151 │ +│ covertype_val_loss │ 0.61005038022995 │ +│ covertype_val_precision │ 0.7465233206748962 │ +│ covertype_val_recall │ 0.7477477192878723 │ +│ covertype_val_score │ 0.7477477192878723 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.866357686405536e-07 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 175.43it/s +Validation metrics: [{'covertype_val_loss': 0.61005038022995, 'lr': 9.866357686405536e-07, 'covertype_val_accuracy': 0.7477477192878723, 'covertype_val_precision': 0.7465233206748962, 'covertype_val_recall': 0.7477477192878723, 'covertype_val_f1-score': 0.7436390519142151, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7477477192878723}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 977 samples (48.85%) + Class 2: 759 samples (37.95%) + Class 3: 56 samples (2.80%) + Class 4: 129 samples (6.45%) + Class 5: 58 samples (2.90%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7549999952316284 │ +│ covertype_test_f1-score │ 0.7535173892974854 │ +│ covertype_test_loss │ 0.5994978547096252 │ +│ covertype_test_precision │ 0.7554866671562195 │ +│ covertype_test_recall │ 0.7549999952316284 │ +│ covertype_test_score │ 0.7549999952316284 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.866358823273913e-07 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 190.14it/s +Test metrics: [{'covertype_test_loss': 0.5994978547096252, 'lr': 9.866358823273913e-07, 'covertype_test_accuracy': 0.7549999952316284, 'covertype_test_precision': 0.7554866671562195, 'covertype_test_recall': 0.7549999952316284, 'covertype_test_f1-score': 0.7535173892974854, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7549999952316284}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 16 samples (0.84%) + Class 1: 963 samples (50.68%) + Class 2: 758 samples (39.89%) + Class 3: 55 samples (2.89%) + Class 4: 62 samples (3.26%) + Class 5: 46 samples (2.42%) +============================================================ +covertype_test_accuracy 5% removed: 0.7600 +covertype_test_precision 5% removed: 0.7605 +covertype_test_recall 5% removed: 0.7600 +covertype_test_f1-score 5% removed: 0.7588 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 945 samples (52.50%) + Class 2: 750 samples (41.67%) + Class 3: 51 samples (2.83%) + Class 4: 14 samples (0.78%) + Class 5: 25 samples (1.39%) +============================================================ +covertype_test_accuracy 10% removed: 0.7661 +covertype_test_precision 10% removed: 0.7658 +covertype_test_recall 10% removed: 0.7661 +covertype_test_f1-score 10% removed: 0.7642 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 861 samples (53.81%) + Class 2: 670 samples (41.88%) + Class 3: 42 samples (2.62%) + Class 4: 3 samples (0.19%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7731 +covertype_test_precision 20% removed: 0.7719 +covertype_test_recall 20% removed: 0.7731 +covertype_test_f1-score 20% removed: 0.7713 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 523 samples (52.30%) + Class 2: 459 samples (45.90%) + Class 3: 9 samples (0.90%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7770 +covertype_test_precision 50% removed: 0.7777 +covertype_test_recall 50% removed: 0.7770 +covertype_test_f1-score 50% removed: 0.7762 +Wrote results for autoint on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/autoint_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7579±0.0076 5%: 0.7632±0.0069 10%: 0.7682±0.0072 20%: 0.7753±0.0093 50%: 0.7786±0.0076 +covertype_test_precision 0%: 0.7584±0.0080 5%: 0.7633±0.0074 10%: 0.7675±0.0076 20%: 0.7742±0.0093 50%: 0.7782±0.0073 +covertype_test_recall 0%: 0.7579±0.0076 5%: 0.7632±0.0069 10%: 0.7682±0.0072 20%: 0.7753±0.0093 50%: 0.7786±0.0076 +covertype_test_f1-score 0%: 0.7566±0.0078 5%: 0.7620±0.0071 10%: 0.7666±0.0075 20%: 0.7737±0.0097 50%: 0.7777±0.0072 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'fttransformer'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpjvqrxn8v/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpjvqrxn8v/output_0.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpjvqrxn8v/output_0.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpjvqrxn8v/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 77.29it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7487487196922302 │ +│ covertype_val_f1-score │ 0.7440484166145325 │ +│ covertype_val_loss │ 0.5852915644645691 │ +│ covertype_val_precision │ 0.7439197301864624 │ +│ covertype_val_recall │ 0.7487487196922302 │ +│ covertype_val_score │ 0.7487487196922302 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 154.15it/s +Validation metrics: [{'covertype_val_loss': 0.5852915644645691, 'lr': 0.0, 'covertype_val_accuracy': 0.7487487196922302, 'covertype_val_precision': 0.7439197301864624, 'covertype_val_recall': 0.7487487196922302, 'covertype_val_f1-score': 0.7440484166145325, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7487487196922302}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 987 samples (49.35%) + Class 2: 750 samples (37.50%) + Class 3: 56 samples (2.80%) + Class 4: 134 samples (6.70%) + Class 5: 50 samples (2.50%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7549999952316284 │ +│ covertype_test_f1-score │ 0.7538892030715942 │ +│ covertype_test_loss │ 0.5681428909301758 │ +│ covertype_test_precision │ 0.7564892768859863 │ +│ covertype_test_recall │ 0.7549999952316284 │ +│ covertype_test_score │ 0.7549999952316284 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 170.69it/s +Test metrics: [{'covertype_test_loss': 0.5681428909301758, 'lr': 0.0, 'covertype_test_accuracy': 0.7549999952316284, 'covertype_test_precision': 0.7564892768859863, 'covertype_test_recall': 0.7549999952316284, 'covertype_test_f1-score': 0.7538892030715942, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7549999952316284}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 977 samples (51.42%) + Class 2: 749 samples (39.42%) + Class 3: 55 samples (2.89%) + Class 4: 61 samples (3.21%) + Class 5: 38 samples (2.00%) + Class 6: 3 samples (0.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.7647 +covertype_test_precision 5% removed: 0.7664 +covertype_test_recall 5% removed: 0.7647 +covertype_test_f1-score 5% removed: 0.7644 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 957 samples (53.17%) + Class 2: 742 samples (41.22%) + Class 3: 52 samples (2.89%) + Class 4: 13 samples (0.72%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7717 +covertype_test_precision 10% removed: 0.7716 +covertype_test_recall 10% removed: 0.7717 +covertype_test_f1-score 10% removed: 0.7701 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 16 samples (1.00%) + Class 1: 869 samples (54.31%) + Class 2: 663 samples (41.44%) + Class 3: 44 samples (2.75%) + Class 5: 8 samples (0.50%) +============================================================ +covertype_test_accuracy 20% removed: 0.7775 +covertype_test_precision 20% removed: 0.7748 +covertype_test_recall 20% removed: 0.7775 +covertype_test_f1-score 20% removed: 0.7753 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 12 samples (1.20%) + Class 1: 534 samples (53.40%) + Class 2: 444 samples (44.40%) + Class 3: 10 samples (1.00%) +============================================================ +covertype_test_accuracy 50% removed: 0.7800 +covertype_test_precision 50% removed: 0.7797 +covertype_test_recall 50% removed: 0.7800 +covertype_test_f1-score 50% removed: 0.7796 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpjvqrxn8v/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpjvqrxn8v/output_1.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpjvqrxn8v/output_1.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpjvqrxn8v/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 82.43it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7507507801055908 │ +│ covertype_val_f1-score │ 0.744968593120575 │ +│ covertype_val_loss │ 0.6148133277893066 │ +│ covertype_val_precision │ 0.7442579865455627 │ +│ covertype_val_recall │ 0.7507507801055908 │ +│ covertype_val_score │ 0.7507507801055908 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 133.42it/s +Validation metrics: [{'covertype_val_loss': 0.6148133277893066, 'lr': 0.0, 'covertype_val_accuracy': 0.7507507801055908, 'covertype_val_precision': 0.7442579865455627, 'covertype_val_recall': 0.7507507801055908, 'covertype_val_f1-score': 0.744968593120575, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7507507801055908}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 986 samples (49.30%) + Class 2: 745 samples (37.25%) + Class 3: 59 samples (2.95%) + Class 4: 143 samples (7.15%) + Class 5: 46 samples (2.30%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7505000233650208 │ +│ covertype_test_f1-score │ 0.7481589913368225 │ +│ covertype_test_loss │ 0.5771003365516663 │ +│ covertype_test_precision │ 0.7500633597373962 │ +│ covertype_test_recall │ 0.7505000233650208 │ +│ covertype_test_score │ 0.7505000233650208 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 161.92it/s +Test metrics: [{'covertype_test_loss': 0.5771003365516663, 'lr': 0.0, 'covertype_test_accuracy': 0.7505000233650208, 'covertype_test_precision': 0.7500633597373962, 'covertype_test_recall': 0.7505000233650208, 'covertype_test_f1-score': 0.7481589913368225, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7505000233650208}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 977 samples (51.42%) + Class 2: 745 samples (39.21%) + Class 3: 57 samples (3.00%) + Class 4: 67 samples (3.53%) + Class 5: 38 samples (2.00%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7605 +covertype_test_precision 5% removed: 0.7610 +covertype_test_recall 5% removed: 0.7605 +covertype_test_f1-score 5% removed: 0.7591 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 960 samples (53.33%) + Class 2: 735 samples (40.83%) + Class 3: 54 samples (3.00%) + Class 4: 16 samples (0.89%) + Class 5: 19 samples (1.06%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7656 +covertype_test_precision 10% removed: 0.7635 +covertype_test_recall 10% removed: 0.7656 +covertype_test_f1-score 10% removed: 0.7634 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 880 samples (55.00%) + Class 2: 652 samples (40.75%) + Class 3: 47 samples (2.94%) + Class 4: 3 samples (0.19%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7731 +covertype_test_precision 20% removed: 0.7709 +covertype_test_recall 20% removed: 0.7731 +covertype_test_f1-score 20% removed: 0.7705 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 544 samples (54.40%) + Class 2: 438 samples (43.80%) + Class 3: 11 samples (1.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7800 +covertype_test_precision 50% removed: 0.7782 +covertype_test_recall 50% removed: 0.7800 +covertype_test_f1-score 50% removed: 0.7784 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpjvqrxn8v/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpjvqrxn8v/output_2.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpjvqrxn8v/output_2.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpjvqrxn8v/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 79.07it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7617617845535278 │ +│ covertype_val_f1-score │ 0.7567638158798218 │ +│ covertype_val_loss │ 0.5749738216400146 │ +│ covertype_val_precision │ 0.7573144435882568 │ +│ covertype_val_recall │ 0.7617617845535278 │ +│ covertype_val_score │ 0.7617617845535278 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 132.15it/s +Validation metrics: [{'covertype_val_loss': 0.5749738216400146, 'lr': 0.0, 'covertype_val_accuracy': 0.7617617845535278, 'covertype_val_precision': 0.7573144435882568, 'covertype_val_recall': 0.7617617845535278, 'covertype_val_f1-score': 0.7567638158798218, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7617617845535278}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 1018 samples (50.90%) + Class 2: 720 samples (36.00%) + Class 3: 57 samples (2.85%) + Class 4: 139 samples (6.95%) + Class 5: 49 samples (2.45%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7475000023841858 │ +│ covertype_test_f1-score │ 0.745112419128418 │ +│ covertype_test_loss │ 0.5834004282951355 │ +│ covertype_test_precision │ 0.7480465173721313 │ +│ covertype_test_recall │ 0.7475000023841858 │ +│ covertype_test_score │ 0.7475000023841858 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 155.59it/s +Test metrics: [{'covertype_test_loss': 0.5834004282951355, 'lr': 0.0, 'covertype_test_accuracy': 0.7475000023841858, 'covertype_test_precision': 0.7480465173721313, 'covertype_test_recall': 0.7475000023841858, 'covertype_test_f1-score': 0.745112419128418, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7475000023841858}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 1012 samples (53.26%) + Class 2: 719 samples (37.84%) + Class 3: 56 samples (2.95%) + Class 4: 65 samples (3.42%) + Class 5: 35 samples (1.84%) +============================================================ +covertype_test_accuracy 5% removed: 0.7563 +covertype_test_precision 5% removed: 0.7554 +covertype_test_recall 5% removed: 0.7563 +covertype_test_f1-score 5% removed: 0.7542 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 992 samples (55.11%) + Class 2: 711 samples (39.50%) + Class 3: 53 samples (2.94%) + Class 4: 16 samples (0.89%) + Class 5: 15 samples (0.83%) +============================================================ +covertype_test_accuracy 10% removed: 0.7600 +covertype_test_precision 10% removed: 0.7585 +covertype_test_recall 10% removed: 0.7600 +covertype_test_f1-score 10% removed: 0.7574 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 886 samples (55.38%) + Class 2: 641 samples (40.06%) + Class 3: 46 samples (2.88%) + Class 4: 2 samples (0.12%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.7663 +covertype_test_precision 20% removed: 0.7675 +covertype_test_recall 20% removed: 0.7663 +covertype_test_f1-score 20% removed: 0.7648 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 542 samples (54.20%) + Class 2: 434 samples (43.40%) + Class 3: 13 samples (1.30%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7740 +covertype_test_precision 50% removed: 0.7756 +covertype_test_recall 50% removed: 0.7740 +covertype_test_f1-score 50% removed: 0.7744 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpjvqrxn8v/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpjvqrxn8v/output_3.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpjvqrxn8v/output_3.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpjvqrxn8v/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 90.02it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7487487196922302 │ +│ covertype_val_f1-score │ 0.7432680130004883 │ +│ covertype_val_loss │ 0.6011888384819031 │ +│ covertype_val_precision │ 0.7453294992446899 │ +│ covertype_val_recall │ 0.7487487196922302 │ +│ covertype_val_score │ 0.7487487196922302 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 245.85it/s +Validation metrics: [{'covertype_val_loss': 0.6011888384819031, 'lr': 0.0, 'covertype_val_accuracy': 0.7487487196922302, 'covertype_val_precision': 0.7453294992446899, 'covertype_val_recall': 0.7487487196922302, 'covertype_val_f1-score': 0.7432680130004883, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7487487196922302}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 9 samples (0.45%) + Class 1: 980 samples (49.00%) + Class 2: 762 samples (38.10%) + Class 3: 55 samples (2.75%) + Class 4: 138 samples (6.90%) + Class 5: 52 samples (2.60%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.753000020980835 │ +│ covertype_test_f1-score │ 0.7496647834777832 │ +│ covertype_test_loss │ 0.5878143310546875 │ +│ covertype_test_precision │ 0.7524032592773438 │ +│ covertype_test_recall │ 0.753000020980835 │ +│ covertype_test_score │ 0.753000020980835 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 231.04it/s +Test metrics: [{'covertype_test_loss': 0.5878143310546875, 'lr': 0.0, 'covertype_test_accuracy': 0.753000020980835, 'covertype_test_precision': 0.7524032592773438, 'covertype_test_recall': 0.753000020980835, 'covertype_test_f1-score': 0.7496647834777832, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.753000020980835}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 9 samples (0.47%) + Class 1: 971 samples (51.11%) + Class 2: 762 samples (40.11%) + Class 3: 53 samples (2.79%) + Class 4: 68 samples (3.58%) + Class 5: 36 samples (1.89%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7621 +covertype_test_precision 5% removed: 0.7621 +covertype_test_recall 5% removed: 0.7621 +covertype_test_f1-score 5% removed: 0.7594 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 9 samples (0.50%) + Class 1: 954 samples (53.00%) + Class 2: 755 samples (41.94%) + Class 3: 50 samples (2.78%) + Class 4: 15 samples (0.83%) + Class 5: 16 samples (0.89%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7683 +covertype_test_precision 10% removed: 0.7663 +covertype_test_recall 10% removed: 0.7683 +covertype_test_f1-score 10% removed: 0.7649 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 8 samples (0.50%) + Class 1: 858 samples (53.62%) + Class 2: 682 samples (42.62%) + Class 3: 42 samples (2.62%) + Class 4: 3 samples (0.19%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7731 +covertype_test_precision 20% removed: 0.7722 +covertype_test_recall 20% removed: 0.7731 +covertype_test_f1-score 20% removed: 0.7701 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 498 samples (49.80%) + Class 2: 486 samples (48.60%) + Class 3: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7770 +covertype_test_precision 50% removed: 0.7802 +covertype_test_recall 50% removed: 0.7770 +covertype_test_f1-score 50% removed: 0.7758 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpjvqrxn8v/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpjvqrxn8v/output_4.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpjvqrxn8v/output_4.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpjvqrxn8v/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 95.36it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7567567825317383 │ +│ covertype_val_f1-score │ 0.7517179250717163 │ +│ covertype_val_loss │ 0.5897629261016846 │ +│ covertype_val_precision │ 0.7572758793830872 │ +│ covertype_val_recall │ 0.7567567825317383 │ +│ covertype_val_score │ 0.7567567825317383 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 287.13it/s +Validation metrics: [{'covertype_val_loss': 0.5897629261016846, 'lr': 0.0, 'covertype_val_accuracy': 0.7567567825317383, 'covertype_val_precision': 0.7572758793830872, 'covertype_val_recall': 0.7567567825317383, 'covertype_val_f1-score': 0.7517179250717163, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7567567825317383}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 10 samples (0.50%) + Class 1: 988 samples (49.40%) + Class 2: 755 samples (37.75%) + Class 3: 58 samples (2.90%) + Class 4: 134 samples (6.70%) + Class 5: 49 samples (2.45%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7599999904632568 │ +│ covertype_test_f1-score │ 0.7582384943962097 │ +│ covertype_test_loss │ 0.5543263554573059 │ +│ covertype_test_precision │ 0.7644678950309753 │ +│ covertype_test_recall │ 0.7599999904632568 │ +│ covertype_test_score │ 0.7599999904632568 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 289.21it/s +Test metrics: [{'covertype_test_loss': 0.5543263554573059, 'lr': 0.0, 'covertype_test_accuracy': 0.7599999904632568, 'covertype_test_precision': 0.7644678950309753, 'covertype_test_recall': 0.7599999904632568, 'covertype_test_f1-score': 0.7582384943962097, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7599999904632568}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 59 samples (3.11%) + Class 5: 35 samples (1.84%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 9 samples (0.47%) + Class 1: 982 samples (51.68%) + Class 2: 755 samples (39.74%) + Class 3: 56 samples (2.95%) + Class 4: 62 samples (3.26%) + Class 5: 35 samples (1.84%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7684 +covertype_test_precision 5% removed: 0.7735 +covertype_test_recall 5% removed: 0.7684 +covertype_test_f1-score 5% removed: 0.7668 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 969 samples (53.83%) + Class 2: 699 samples (38.83%) + Class 3: 60 samples (3.33%) + Class 4: 23 samples (1.28%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 9 samples (0.50%) + Class 1: 962 samples (53.44%) + Class 2: 747 samples (41.50%) + Class 3: 53 samples (2.94%) + Class 4: 16 samples (0.89%) + Class 5: 12 samples (0.67%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7756 +covertype_test_precision 10% removed: 0.7789 +covertype_test_recall 10% removed: 0.7756 +covertype_test_f1-score 10% removed: 0.7732 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 875 samples (54.69%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 7 samples (0.44%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 867 samples (54.19%) + Class 2: 670 samples (41.88%) + Class 3: 45 samples (2.81%) + Class 4: 3 samples (0.19%) + Class 5: 6 samples (0.38%) +============================================================ +covertype_test_accuracy 20% removed: 0.7800 +covertype_test_precision 20% removed: 0.7833 +covertype_test_recall 20% removed: 0.7800 +covertype_test_f1-score 20% removed: 0.7783 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 542 samples (54.20%) + Class 2: 431 samples (43.10%) + Class 3: 13 samples (1.30%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 534 samples (53.40%) + Class 2: 448 samples (44.80%) + Class 3: 13 samples (1.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7800 +covertype_test_precision 50% removed: 0.7828 +covertype_test_recall 50% removed: 0.7800 +covertype_test_f1-score 50% removed: 0.7791 +Wrote results for fttransformer on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/fttransformer_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7532±0.0059 5%: 0.7624±0.0056 10%: 0.7682±0.0074 20%: 0.7740±0.0065 50%: 0.7782±0.0033 +covertype_test_precision 0%: 0.7543±0.0081 5%: 0.7637±0.0084 10%: 0.7678±0.0097 20%: 0.7737±0.0074 50%: 0.7793±0.0033 +covertype_test_recall 0%: 0.7532±0.0059 5%: 0.7624±0.0056 10%: 0.7682±0.0074 20%: 0.7740±0.0065 50%: 0.7782±0.0033 +covertype_test_f1-score 0%: 0.7510±0.0064 5%: 0.7608±0.0061 10%: 0.7658±0.0076 20%: 0.7718±0.0065 50%: 0.7774±0.0028 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 + +================================================================================ +FINAL SUMMARY: Test Accuracy by Model and Uncertainty Filtering Percentage +Dataset: covertype +================================================================================ +Model 0% removed 5% removed 10% removed 20% removed 50% removed +-------------------------------------------------------------------------------- +mlp 0.7156±0.0123 0.7242±0.0135 0.7293±0.0163 0.7332±0.0151 0.7518±0.0108 +dcnv2 0.7866±0.0096 0.7934±0.0098 0.7988±0.0106 0.8035±0.0089 0.8106±0.0106 +resnet 0.7805±0.0075 0.7861±0.0081 0.7912±0.0080 0.7956±0.0072 0.8018±0.0085 +autoint 0.7579±0.0076 0.7632±0.0069 0.7682±0.0072 0.7753±0.0093 0.7786±0.0076 +fttransformer 0.7532±0.0059 0.7624±0.0056 0.7682±0.0074 0.7740±0.0065 0.7782±0.0033 +================================================================================ + +Downstream pipeline complete. Results under /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/logs/q7-gpu3-delay30-kl5e-8.exit_code b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/logs/q7-gpu3-delay30-kl5e-8.exit_code new file mode 100644 index 0000000000000000000000000000000000000000..573541ac9702dd3969c9bc859d2b91ec1f7e6e56 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/logs/q7-gpu3-delay30-kl5e-8.exit_code @@ -0,0 +1 @@ +0 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/logs/q7-gpu3-delay30-kl5e-8.log b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/logs/q7-gpu3-delay30-kl5e-8.log new file mode 100644 index 0000000000000000000000000000000000000000..dd333649443a3fbb3d2064a3b07dcea94747bfcc --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/logs/q7-gpu3-delay30-kl5e-8.log @@ -0,0 +1,27133 @@ +[2026-09-18T03:24:05+00:00] [q7-gpu3-delay30-kl5e-8] Staggering startup by 75s for VRAM safety... +[2026-09-18T03:25:20+00:00] tag=q7-gpu3-delay30-kl5e-8 gpu=3 dataset=covertype kl_start=30 kl_anneal=50 kl_end=0.00000005 patience=25 +{ + "dataset": "covertype", + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "25", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "5e-08", + "--vtjepa_kl_y_annealing_epochs", + "50", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "30", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} +Not SLURM job. +╒══════════════════════════════════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ mock │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ activation_checkpointing │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ deterministic_mode │ warn │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pre_evaluation │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 512 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 500 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 25 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ improvement │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_val_cache_cadence │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ init_type │ trunc_normal │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_start_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_lr │ 0.0005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 12 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_ipe_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_gradient_clipping │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_type_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_index_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dropout_prob │ 0.0015 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_hidden │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_feedforward │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_heads │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_layers │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_act_func │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_cadence │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_model │ linear_probe │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ n_cls_tokens │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_type │ transformer │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_layers │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_embed_dim │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_heads │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_p_dropout │ 0.002 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_activation │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_dim_feedforward │ 256 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_allow_overlap │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_ctx_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_ctx_share │ 0.35 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_trgt_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_trgt_share │ 0.6 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_preds │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_encs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mu_init_std │ 0.03 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_std │ 0.005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_bias │ -4.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_x_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_y_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_evaluation_epochs │ 50 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_probe_patience │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_representation_type │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_encoder_type │ target_posterior │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_target_posterior │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_auxiliary_encoder │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_end_weight │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_end_weight │ 5e-08 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_annealing_epochs │ 50 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_epoch │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ predictive_target_detach │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_x_weight │ 0.001 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_y_weight │ 0.5 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ latent_architecture │ stochastic │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ jepa_objective │ w_jepa_joint │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_full_num_projections │ 2048 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_marginal_num_projections │ 1024 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_p │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_include_marginals │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_x_weight │ 0.00075 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_z_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_y_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_end_weight │ 0.001875 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ safe_exit │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_selection │ filtered_20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sigma_aggregation │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ subset_size │ -1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ is_batchlearning │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ iteration │ 0 │ +╘══════════════════════════════════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════╛ + +CUDA Device Information: +CUDA_VISIBLE_DEVICES: 3 +Number of CUDA devices: 1 +Current CUDA device: 0 +CUDA device name: NVIDIA A100-SXM4-80GB + +Using device: cuda:0 +Device name: NVIDIA A100-SXM4-80GB +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +VariationalTJEPA parameters: ++-------------------------+---------+ +| Parameter | Value | ++=========================+=========+ +| hidden_dim | 64 | ++-------------------------+---------+ +| num_layers | 8 | ++-------------------------+---------+ +| num_heads | 8 | ++-------------------------+---------+ +| p_dropout | 0.0015 | ++-------------------------+---------+ +| layer_norm_eps | 1e-05 | ++-------------------------+---------+ +| feature_type_embedding | True | ++-------------------------+---------+ +| feature_index_embedding | True | ++-------------------------+---------+ +| dim_feedforward | 64 | ++-------------------------+---------+ +| use_reg_token | True | ++-------------------------+---------+ +| gradient_clipping | 1.0 | ++-------------------------+---------+ +| activation | gelu | ++-------------------------+---------+ +| num_features | 54 | ++-------------------------+---------+ +| n_cls_tokens | 1 | ++-------------------------+---------+ +MaskCollator params: +----------------- ----- +Allow overlap False +Min context share 0.15 +Max context share 0.35 +Min target share 0.15 +Max target share 0.6 +Min context 8 +Max context 18 +Min target 8 +Max target 32 +Num preds 4 +Num encs 1 +Num features 54 +Cardinalities [] +Base mask seed 0 +----------------- ----- +KL-x annealing: start=0.0 for 20 steps, then anneal to 1e-06 over 1200 steps. +KL-z annealing: start=0.0 for 20 steps, then anneal to 1e-05 over 1200 steps. +KL-y annealing: start=0.0 for 600 steps, then anneal to 5e-08 over 1000 steps. +W-JEPA marginal-scale annealing (s_x): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (z): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (s_y): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +Configuration saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/vtjepa_config.yaml +All results will be saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538 +[VTJEPA] Running downstream probe before training begins +Using full dataset for embedding generation: covertype +Generating embedding using: JEPAEmbeddingEncoder on full dataset + 0%| | 0/20 [00:00= 25) +[VTJEPA] Early stopping triggered at epoch 136 + Best downstream validation score: 0.757500 at epoch 85 + No improvement for 25 probe evaluations +Restored best downstream-selected checkpoint from epoch 85. +Training completed. +[2026-09-18T04:34:52+00:00] tag=q7-gpu3-delay30-kl5e-8 dataset=covertype starting downstream models=mlp,dcnv2,resnet,autoint,fttransformer +[Config] Loaded sigma_aggregation=mean from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/vtjepa_config.yaml +[Config] Loaded training data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/vtjepa_config.yaml +Split statistics: + val: 999 samples + test: 2000 samples + train: 7001 samples +Running downstream for dataset 'covertype', model 'mlp'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_7mq9icm/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp_7mq9icm/output_0.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_7mq9icm/output_0.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_7mq9icm/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 26/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 271.17it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.728728711605072 │ +│ covertype_val_f1-score │ 0.7098766565322876 │ +│ covertype_val_loss │ 0.6523396968841553 │ +│ covertype_val_precision │ 0.7013306021690369 │ +│ covertype_val_recall │ 0.728728711605072 │ +│ covertype_val_score │ 0.728728711605072 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 541.38it/s +Validation metrics: [{'covertype_val_loss': 0.6523396968841553, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.728728711605072, 'covertype_val_precision': 0.7013306021690369, 'covertype_val_recall': 0.728728711605072, 'covertype_val_f1-score': 0.7098766565322876, 'covertype_val_support': 999.0, 'covertype_val_score': 0.728728711605072}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1104 samples (55.20%) + Class 2: 637 samples (31.85%) + Class 3: 43 samples (2.15%) + Class 4: 206 samples (10.30%) + Class 5: 2 samples (0.10%) + Class 6: 8 samples (0.40%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7214999794960022 │ +│ covertype_test_f1-score │ 0.7059991955757141 │ +│ covertype_test_loss │ 0.6660451889038086 │ +│ covertype_test_precision │ 0.7308511137962341 │ +│ covertype_test_recall │ 0.7214999794960022 │ +│ covertype_test_score │ 0.7214999794960022 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 570.71it/s +Test metrics: [{'covertype_test_loss': 0.6660451889038086, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7214999794960022, 'covertype_test_precision': 0.7308511137962341, 'covertype_test_recall': 0.7214999794960022, 'covertype_test_f1-score': 0.7059991955757141, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7214999794960022}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1104 samples (58.11%) + Class 2: 637 samples (33.53%) + Class 3: 41 samples (2.16%) + Class 4: 113 samples (5.95%) + Class 5: 2 samples (0.11%) + Class 6: 3 samples (0.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.7326 +covertype_test_precision 5% removed: 0.7345 +covertype_test_recall 5% removed: 0.7326 +covertype_test_f1-score 5% removed: 0.7204 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 1085 samples (60.28%) + Class 2: 628 samples (34.89%) + Class 3: 38 samples (2.11%) + Class 4: 45 samples (2.50%) + Class 5: 1 samples (0.06%) + Class 6: 3 samples (0.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7417 +covertype_test_precision 10% removed: 0.7360 +covertype_test_recall 10% removed: 0.7417 +covertype_test_f1-score 10% removed: 0.7308 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 1: 993 samples (62.06%) + Class 2: 559 samples (34.94%) + Class 3: 35 samples (2.19%) + Class 4: 10 samples (0.62%) + Class 5: 1 samples (0.06%) + Class 6: 2 samples (0.12%) +============================================================ +covertype_test_accuracy 20% removed: 0.7481 +covertype_test_precision 20% removed: 0.7388 +covertype_test_recall 20% removed: 0.7481 +covertype_test_f1-score 20% removed: 0.7375 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 1: 625 samples (62.50%) + Class 2: 368 samples (36.80%) + Class 3: 7 samples (0.70%) +============================================================ +covertype_test_accuracy 50% removed: 0.7550 +covertype_test_precision 50% removed: 0.7460 +covertype_test_recall 50% removed: 0.7550 +covertype_test_f1-score 50% removed: 0.7451 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_7mq9icm/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp_7mq9icm/output_1.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_7mq9icm/output_1.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_7mq9icm/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 277.05it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7197197079658508 │ +│ covertype_val_f1-score │ 0.7167884111404419 │ +│ covertype_val_loss │ 0.6656489968299866 │ +│ covertype_val_precision │ 0.7325971722602844 │ +│ covertype_val_recall │ 0.7197197079658508 │ +│ covertype_val_score │ 0.7197197079658508 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 561.49it/s +Validation metrics: [{'covertype_val_loss': 0.6656489968299866, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7197197079658508, 'covertype_val_precision': 0.7325971722602844, 'covertype_val_recall': 0.7197197079658508, 'covertype_val_f1-score': 0.7167884111404419, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7197197079658508}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 2 samples (0.10%) + Class 1: 1040 samples (52.00%) + Class 2: 722 samples (36.10%) + Class 3: 68 samples (3.40%) + Class 4: 94 samples (4.70%) + Class 5: 71 samples (3.55%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.718500018119812 │ +│ covertype_test_f1-score │ 0.7135161757469177 │ +│ covertype_test_loss │ 0.6462342143058777 │ +│ covertype_test_precision │ 0.7231304049491882 │ +│ covertype_test_recall │ 0.718500018119812 │ +│ covertype_test_score │ 0.718500018119812 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 580.38it/s +Test metrics: [{'covertype_test_loss': 0.6462342143058777, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.718500018119812, 'covertype_test_precision': 0.7231304049491882, 'covertype_test_recall': 0.718500018119812, 'covertype_test_f1-score': 0.7135161757469177, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.718500018119812}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 2 samples (0.11%) + Class 1: 1029 samples (54.16%) + Class 2: 722 samples (38.00%) + Class 3: 66 samples (3.47%) + Class 4: 40 samples (2.11%) + Class 5: 41 samples (2.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.7263 +covertype_test_precision 5% removed: 0.7289 +covertype_test_recall 5% removed: 0.7263 +covertype_test_f1-score 5% removed: 0.7202 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 2 samples (0.11%) + Class 1: 993 samples (55.17%) + Class 2: 714 samples (39.67%) + Class 3: 62 samples (3.44%) + Class 4: 17 samples (0.94%) + Class 5: 12 samples (0.67%) +============================================================ +covertype_test_accuracy 10% removed: 0.7306 +covertype_test_precision 10% removed: 0.7325 +covertype_test_recall 10% removed: 0.7306 +covertype_test_f1-score 10% removed: 0.7241 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 2 samples (0.12%) + Class 1: 896 samples (56.00%) + Class 2: 637 samples (39.81%) + Class 3: 55 samples (3.44%) + Class 4: 2 samples (0.12%) + Class 5: 8 samples (0.50%) +============================================================ +covertype_test_accuracy 20% removed: 0.7400 +covertype_test_precision 20% removed: 0.7447 +covertype_test_recall 20% removed: 0.7400 +covertype_test_f1-score 20% removed: 0.7341 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 1: 587 samples (58.70%) + Class 2: 393 samples (39.30%) + Class 3: 20 samples (2.00%) +============================================================ +covertype_test_accuracy 50% removed: 0.7460 +covertype_test_precision 50% removed: 0.7360 +covertype_test_recall 50% removed: 0.7460 +covertype_test_f1-score 50% removed: 0.7391 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_7mq9icm/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp_7mq9icm/output_2.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_7mq9icm/output_2.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_7mq9icm/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 36/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 240.81it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7257257103919983 │ +│ covertype_val_f1-score │ 0.7194278240203857 │ +│ covertype_val_loss │ 0.653037965297699 │ +│ covertype_val_precision │ 0.7189702987670898 │ +│ covertype_val_recall │ 0.7257257103919983 │ +│ covertype_val_score │ 0.7257257103919983 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 485.14it/s +Validation metrics: [{'covertype_val_loss': 0.653037965297699, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7257257103919983, 'covertype_val_precision': 0.7189702987670898, 'covertype_val_recall': 0.7257257103919983, 'covertype_val_f1-score': 0.7194278240203857, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7257257103919983}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1023 samples (51.15%) + Class 2: 778 samples (38.90%) + Class 3: 48 samples (2.40%) + Class 4: 87 samples (4.35%) + Class 5: 62 samples (3.10%) + Class 6: 2 samples (0.10%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7179999947547913 │ +│ covertype_test_f1-score │ 0.7107548713684082 │ +│ covertype_test_loss │ 0.6450572609901428 │ +│ covertype_test_precision │ 0.7072110176086426 │ +│ covertype_test_recall │ 0.7179999947547913 │ +│ covertype_test_score │ 0.7179999947547913 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 532.40it/s +Test metrics: [{'covertype_test_loss': 0.6450572609901428, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7179999947547913, 'covertype_test_precision': 0.7072110176086426, 'covertype_test_recall': 0.7179999947547913, 'covertype_test_f1-score': 0.7107548713684082, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7179999947547913}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 999 samples (52.58%) + Class 2: 778 samples (40.95%) + Class 3: 46 samples (2.42%) + Class 4: 39 samples (2.05%) + Class 5: 37 samples (1.95%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7237 +covertype_test_precision 5% removed: 0.7127 +covertype_test_recall 5% removed: 0.7237 +covertype_test_f1-score 5% removed: 0.7163 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 964 samples (53.56%) + Class 2: 769 samples (42.72%) + Class 3: 43 samples (2.39%) + Class 4: 20 samples (1.11%) + Class 5: 3 samples (0.17%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7278 +covertype_test_precision 10% removed: 0.7147 +covertype_test_recall 10% removed: 0.7278 +covertype_test_f1-score 10% removed: 0.7188 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 1: 874 samples (54.62%) + Class 2: 681 samples (42.56%) + Class 3: 40 samples (2.50%) + Class 4: 2 samples (0.12%) + Class 5: 2 samples (0.12%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7362 +covertype_test_precision 20% removed: 0.7266 +covertype_test_recall 20% removed: 0.7362 +covertype_test_f1-score 20% removed: 0.7283 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 1: 576 samples (57.60%) + Class 2: 417 samples (41.70%) + Class 3: 7 samples (0.70%) +============================================================ +covertype_test_accuracy 50% removed: 0.7520 +covertype_test_precision 50% removed: 0.7399 +covertype_test_recall 50% removed: 0.7520 +covertype_test_f1-score 50% removed: 0.7445 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_7mq9icm/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp_7mq9icm/output_3.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_7mq9icm/output_3.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_7mq9icm/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 41/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 203.16it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.6256256103515625 │ +│ covertype_val_f1-score │ 0.5712555050849915 │ +│ covertype_val_loss │ 0.9177996516227722 │ +│ covertype_val_precision │ 0.6260852813720703 │ +│ covertype_val_recall │ 0.6256256103515625 │ +│ covertype_val_score │ 0.6256256103515625 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 503.34it/s +Validation metrics: [{'covertype_val_loss': 0.9177996516227722, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.6256256103515625, 'covertype_val_precision': 0.6260852813720703, 'covertype_val_recall': 0.6256256103515625, 'covertype_val_f1-score': 0.5712555050849915, 'covertype_val_support': 999.0, 'covertype_val_score': 0.6256256103515625}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1523 samples (76.15%) + Class 2: 242 samples (12.10%) + Class 4: 131 samples (6.55%) + Class 5: 104 samples (5.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6169999837875366 │ +│ covertype_test_f1-score │ 0.557788074016571 │ +│ covertype_test_loss │ 0.9345662593841553 │ +│ covertype_test_precision │ 0.6154282689094543 │ +│ covertype_test_recall │ 0.6169999837875366 │ +│ covertype_test_score │ 0.6169999837875366 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 507.57it/s +Test metrics: [{'covertype_test_loss': 0.9345662593841553, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6169999837875366, 'covertype_test_precision': 0.6154282689094543, 'covertype_test_recall': 0.6169999837875366, 'covertype_test_f1-score': 0.557788074016571, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6169999837875366}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1521 samples (80.05%) + Class 2: 240 samples (12.63%) + Class 4: 60 samples (3.16%) + Class 5: 79 samples (4.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.6189 +covertype_test_precision 5% removed: 0.6190 +covertype_test_recall 5% removed: 0.6189 +covertype_test_f1-score 5% removed: 0.5563 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 1497 samples (83.17%) + Class 2: 235 samples (13.06%) + Class 4: 25 samples (1.39%) + Class 5: 43 samples (2.39%) +============================================================ +covertype_test_accuracy 10% removed: 0.6272 +covertype_test_precision 10% removed: 0.6302 +covertype_test_recall 10% removed: 0.6272 +covertype_test_f1-score 10% removed: 0.5614 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 1: 1367 samples (85.44%) + Class 2: 213 samples (13.31%) + Class 4: 4 samples (0.25%) + Class 5: 16 samples (1.00%) +============================================================ +covertype_test_accuracy 20% removed: 0.6350 +covertype_test_precision 20% removed: 0.6366 +covertype_test_recall 20% removed: 0.6350 +covertype_test_f1-score 20% removed: 0.5652 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 1: 872 samples (87.20%) + Class 2: 128 samples (12.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.6460 +covertype_test_precision 50% removed: 0.7114 +covertype_test_recall 50% removed: 0.6460 +covertype_test_f1-score 50% removed: 0.5808 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_7mq9icm/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp_7mq9icm/output_4.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_7mq9icm/output_4.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_7mq9icm/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 204.09it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7437437176704407 │ +│ covertype_val_f1-score │ 0.7307920455932617 │ +│ covertype_val_loss │ 0.6337302923202515 │ +│ covertype_val_precision │ 0.7286480069160461 │ +│ covertype_val_recall │ 0.7437437176704407 │ +│ covertype_val_score │ 0.7437437176704407 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 360.47it/s +Validation metrics: [{'covertype_val_loss': 0.6337302923202515, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7437437176704407, 'covertype_val_precision': 0.7286480069160461, 'covertype_val_recall': 0.7437437176704407, 'covertype_val_f1-score': 0.7307920455932617, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7437437176704407}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1007 samples (50.35%) + Class 2: 755 samples (37.75%) + Class 3: 61 samples (3.05%) + Class 4: 160 samples (8.00%) + Class 5: 13 samples (0.65%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7250000238418579 │ +│ covertype_test_f1-score │ 0.7134192585945129 │ +│ covertype_test_loss │ 0.6426518559455872 │ +│ covertype_test_precision │ 0.7156379818916321 │ +│ covertype_test_recall │ 0.7250000238418579 │ +│ covertype_test_score │ 0.7250000238418579 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 342.34it/s +Test metrics: [{'covertype_test_loss': 0.6426518559455872, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7250000238418579, 'covertype_test_precision': 0.7156379818916321, 'covertype_test_recall': 0.7250000238418579, 'covertype_test_f1-score': 0.7134192585945129, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7250000238418579}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1000 samples (52.63%) + Class 2: 755 samples (39.74%) + Class 3: 59 samples (3.11%) + Class 4: 72 samples (3.79%) + Class 5: 12 samples (0.63%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7342 +covertype_test_precision 5% removed: 0.7222 +covertype_test_recall 5% removed: 0.7342 +covertype_test_f1-score 5% removed: 0.7256 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 972 samples (54.00%) + Class 2: 745 samples (41.39%) + Class 3: 55 samples (3.06%) + Class 4: 21 samples (1.17%) + Class 5: 5 samples (0.28%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7378 +covertype_test_precision 10% removed: 0.7252 +covertype_test_recall 10% removed: 0.7378 +covertype_test_f1-score 10% removed: 0.7297 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 1: 880 samples (55.00%) + Class 2: 664 samples (41.50%) + Class 3: 49 samples (3.06%) + Class 4: 3 samples (0.19%) + Class 5: 3 samples (0.19%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7450 +covertype_test_precision 20% removed: 0.7319 +covertype_test_recall 20% removed: 0.7450 +covertype_test_f1-score 20% removed: 0.7372 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 1: 563 samples (56.30%) + Class 2: 423 samples (42.30%) + Class 3: 14 samples (1.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.7520 +covertype_test_precision 50% removed: 0.7401 +covertype_test_recall 50% removed: 0.7520 +covertype_test_f1-score 50% removed: 0.7458 +Wrote results for mlp on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/mlp_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7000±0.0577 5%: 0.7072±0.0615 10%: 0.7130±0.0599 20%: 0.7209±0.0599 50%: 0.7302±0.0586 +covertype_test_precision 0%: 0.6985±0.0586 5%: 0.7035±0.0595 10%: 0.7077±0.0547 20%: 0.7157±0.0555 50%: 0.7347±0.0168 +covertype_test_recall 0%: 0.7000±0.0577 5%: 0.7072±0.0615 10%: 0.7130±0.0599 20%: 0.7209±0.0599 50%: 0.7302±0.0586 +covertype_test_f1-score 0%: 0.6803±0.0851 5%: 0.6877±0.0913 10%: 0.6930±0.0915 20%: 0.7005±0.0940 50%: 0.7111±0.0905 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'dcnv2'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpi3k_8iqf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpi3k_8iqf/output_0.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpi3k_8iqf/output_0.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpi3k_8iqf/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 177.87it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7777777910232544 │ +│ covertype_val_f1-score │ 0.775078296661377 │ +│ covertype_val_loss │ 0.5712002515792847 │ +│ covertype_val_precision │ 0.7732260227203369 │ +│ covertype_val_recall │ 0.7777777910232544 │ +│ covertype_val_score │ 0.7777777910232544 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 333.93it/s +Validation metrics: [{'covertype_val_loss': 0.5712002515792847, 'lr': 0.0, 'covertype_val_accuracy': 0.7777777910232544, 'covertype_val_precision': 0.7732260227203369, 'covertype_val_recall': 0.7777777910232544, 'covertype_val_f1-score': 0.775078296661377, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7777777910232544}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 21 samples (1.05%) + Class 1: 1016 samples (50.80%) + Class 2: 716 samples (35.80%) + Class 3: 58 samples (2.90%) + Class 4: 127 samples (6.35%) + Class 5: 58 samples (2.90%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7850000262260437 │ +│ covertype_test_f1-score │ 0.7836721539497375 │ +│ covertype_test_loss │ 0.5744679570198059 │ +│ covertype_test_precision │ 0.7840873599052429 │ +│ covertype_test_recall │ 0.7850000262260437 │ +│ covertype_test_score │ 0.7850000262260437 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 375.90it/s +Test metrics: [{'covertype_test_loss': 0.5744679570198059, 'lr': 0.0, 'covertype_test_accuracy': 0.7850000262260437, 'covertype_test_precision': 0.7840873599052429, 'covertype_test_recall': 0.7850000262260437, 'covertype_test_f1-score': 0.7836721539497375, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7850000262260437}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 20 samples (1.05%) + Class 1: 1004 samples (52.84%) + Class 2: 715 samples (37.63%) + Class 3: 57 samples (3.00%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7911 +covertype_test_precision 5% removed: 0.7904 +covertype_test_recall 5% removed: 0.7911 +covertype_test_f1-score 5% removed: 0.7898 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 18 samples (1.00%) + Class 1: 981 samples (54.50%) + Class 2: 703 samples (39.06%) + Class 3: 54 samples (3.00%) + Class 4: 24 samples (1.33%) + Class 5: 19 samples (1.06%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7961 +covertype_test_precision 10% removed: 0.7940 +covertype_test_recall 10% removed: 0.7961 +covertype_test_f1-score 10% removed: 0.7945 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 892 samples (55.75%) + Class 2: 630 samples (39.38%) + Class 3: 47 samples (2.94%) + Class 4: 7 samples (0.44%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.8012 +covertype_test_precision 20% removed: 0.7994 +covertype_test_recall 20% removed: 0.8012 +covertype_test_f1-score 20% removed: 0.7994 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 554 samples (55.40%) + Class 2: 425 samples (42.50%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7990 +covertype_test_precision 50% removed: 0.7972 +covertype_test_recall 50% removed: 0.7990 +covertype_test_f1-score 50% removed: 0.7974 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpi3k_8iqf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpi3k_8iqf/output_1.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpi3k_8iqf/output_1.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpi3k_8iqf/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 158.38it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7757757902145386 │ +│ covertype_val_f1-score │ 0.7695503830909729 │ +│ covertype_val_loss │ 0.5609516501426697 │ +│ covertype_val_precision │ 0.7678253054618835 │ +│ covertype_val_recall │ 0.7757757902145386 │ +│ covertype_val_score │ 0.7757757902145386 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 453.23it/s +Validation metrics: [{'covertype_val_loss': 0.5609516501426697, 'lr': 0.0, 'covertype_val_accuracy': 0.7757757902145386, 'covertype_val_precision': 0.7678253054618835, 'covertype_val_recall': 0.7757757902145386, 'covertype_val_f1-score': 0.7695503830909729, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7757757902145386}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1022 samples (51.10%) + Class 2: 709 samples (35.45%) + Class 3: 59 samples (2.95%) + Class 4: 142 samples (7.10%) + Class 5: 49 samples (2.45%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7889999747276306 │ +│ covertype_test_f1-score │ 0.7870169878005981 │ +│ covertype_test_loss │ 0.5835714340209961 │ +│ covertype_test_precision │ 0.789620041847229 │ +│ covertype_test_recall │ 0.7889999747276306 │ +│ covertype_test_score │ 0.7889999747276306 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 281.08it/s +Test metrics: [{'covertype_test_loss': 0.5835714340209961, 'lr': 0.0, 'covertype_test_accuracy': 0.7889999747276306, 'covertype_test_precision': 0.789620041847229, 'covertype_test_recall': 0.7889999747276306, 'covertype_test_f1-score': 0.7870169878005981, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7889999747276306}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 1016 samples (53.47%) + Class 2: 708 samples (37.26%) + Class 3: 58 samples (3.05%) + Class 4: 65 samples (3.42%) + Class 5: 38 samples (2.00%) +============================================================ +covertype_test_accuracy 5% removed: 0.7974 +covertype_test_precision 5% removed: 0.7955 +covertype_test_recall 5% removed: 0.7974 +covertype_test_f1-score 5% removed: 0.7953 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 991 samples (55.06%) + Class 2: 697 samples (38.72%) + Class 3: 54 samples (3.00%) + Class 4: 24 samples (1.33%) + Class 5: 19 samples (1.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.8022 +covertype_test_precision 10% removed: 0.8005 +covertype_test_recall 10% removed: 0.8022 +covertype_test_f1-score 10% removed: 0.8003 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 894 samples (55.88%) + Class 2: 628 samples (39.25%) + Class 3: 48 samples (3.00%) + Class 4: 6 samples (0.38%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.8069 +covertype_test_precision 20% removed: 0.8054 +covertype_test_recall 20% removed: 0.8069 +covertype_test_f1-score 20% removed: 0.8050 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 545 samples (54.50%) + Class 2: 435 samples (43.50%) + Class 3: 11 samples (1.10%) + Class 4: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8060 +covertype_test_precision 50% removed: 0.8050 +covertype_test_recall 50% removed: 0.8060 +covertype_test_f1-score 50% removed: 0.8048 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpi3k_8iqf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpi3k_8iqf/output_2.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpi3k_8iqf/output_2.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpi3k_8iqf/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 46/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 177.34it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.781781792640686 │ +│ covertype_val_f1-score │ 0.7780570983886719 │ +│ covertype_val_loss │ 0.5572577714920044 │ +│ covertype_val_precision │ 0.7768073678016663 │ +│ covertype_val_recall │ 0.781781792640686 │ +│ covertype_val_score │ 0.781781792640686 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 313.39it/s +Validation metrics: [{'covertype_val_loss': 0.5572577714920044, 'lr': 8.856373824528418e-06, 'covertype_val_accuracy': 0.781781792640686, 'covertype_val_precision': 0.7768073678016663, 'covertype_val_recall': 0.781781792640686, 'covertype_val_f1-score': 0.7780570983886719, 'covertype_val_support': 999.0, 'covertype_val_score': 0.781781792640686}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 21 samples (1.05%) + Class 1: 991 samples (49.55%) + Class 2: 739 samples (36.95%) + Class 3: 58 samples (2.90%) + Class 4: 131 samples (6.55%) + Class 5: 57 samples (2.85%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7839999794960022 │ +│ covertype_test_f1-score │ 0.7828491926193237 │ +│ covertype_test_loss │ 0.5732610821723938 │ +│ covertype_test_precision │ 0.7843406796455383 │ +│ covertype_test_recall │ 0.7839999794960022 │ +│ covertype_test_score │ 0.7839999794960022 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 366.30it/s +Test metrics: [{'covertype_test_loss': 0.5732610821723938, 'lr': 8.856373824528418e-06, 'covertype_test_accuracy': 0.7839999794960022, 'covertype_test_precision': 0.7843406796455383, 'covertype_test_recall': 0.7839999794960022, 'covertype_test_f1-score': 0.7828491926193237, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7839999794960022}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 20 samples (1.05%) + Class 1: 980 samples (51.58%) + Class 2: 739 samples (38.89%) + Class 3: 56 samples (2.95%) + Class 4: 60 samples (3.16%) + Class 5: 45 samples (2.37%) +============================================================ +covertype_test_accuracy 5% removed: 0.7916 +covertype_test_precision 5% removed: 0.7908 +covertype_test_recall 5% removed: 0.7916 +covertype_test_f1-score 5% removed: 0.7905 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 19 samples (1.06%) + Class 1: 956 samples (53.11%) + Class 2: 727 samples (40.39%) + Class 3: 53 samples (2.94%) + Class 4: 22 samples (1.22%) + Class 5: 23 samples (1.28%) +============================================================ +covertype_test_accuracy 10% removed: 0.7967 +covertype_test_precision 10% removed: 0.7960 +covertype_test_recall 10% removed: 0.7967 +covertype_test_f1-score 10% removed: 0.7956 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 863 samples (53.94%) + Class 2: 658 samples (41.12%) + Class 3: 46 samples (2.88%) + Class 4: 6 samples (0.38%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.8037 +covertype_test_precision 20% removed: 0.8036 +covertype_test_recall 20% removed: 0.8037 +covertype_test_f1-score 20% removed: 0.8026 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 535 samples (53.50%) + Class 2: 444 samples (44.40%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8150 +covertype_test_precision 50% removed: 0.8136 +covertype_test_recall 50% removed: 0.8150 +covertype_test_f1-score 50% removed: 0.8137 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpi3k_8iqf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpi3k_8iqf/output_3.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpi3k_8iqf/output_3.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpi3k_8iqf/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 46/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 179.39it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.770770788192749 │ +│ covertype_val_f1-score │ 0.7668287754058838 │ +│ covertype_val_loss │ 0.5726300477981567 │ +│ covertype_val_precision │ 0.7662538886070251 │ +│ covertype_val_recall │ 0.770770788192749 │ +│ covertype_val_score │ 0.770770788192749 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 322.47it/s +Validation metrics: [{'covertype_val_loss': 0.5726300477981567, 'lr': 8.856373824528418e-06, 'covertype_val_accuracy': 0.770770788192749, 'covertype_val_precision': 0.7662538886070251, 'covertype_val_recall': 0.770770788192749, 'covertype_val_f1-score': 0.7668287754058838, 'covertype_val_support': 999.0, 'covertype_val_score': 0.770770788192749}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 1020 samples (51.00%) + Class 2: 705 samples (35.25%) + Class 3: 61 samples (3.05%) + Class 4: 129 samples (6.45%) + Class 5: 61 samples (3.05%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7910000085830688 │ +│ covertype_test_f1-score │ 0.7899526953697205 │ +│ covertype_test_loss │ 0.5613216757774353 │ +│ covertype_test_precision │ 0.7905975580215454 │ +│ covertype_test_recall │ 0.7910000085830688 │ +│ covertype_test_score │ 0.7910000085830688 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 340.66it/s +Test metrics: [{'covertype_test_loss': 0.5613216757774353, 'lr': 8.856373824528418e-06, 'covertype_test_accuracy': 0.7910000085830688, 'covertype_test_precision': 0.7905975580215454, 'covertype_test_recall': 0.7910000085830688, 'covertype_test_f1-score': 0.7899526953697205, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7910000085830688}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 1009 samples (53.11%) + Class 2: 705 samples (37.11%) + Class 3: 59 samples (3.11%) + Class 4: 64 samples (3.37%) + Class 5: 45 samples (2.37%) +============================================================ +covertype_test_accuracy 5% removed: 0.7974 +covertype_test_precision 5% removed: 0.7958 +covertype_test_recall 5% removed: 0.7974 +covertype_test_f1-score 5% removed: 0.7959 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 985 samples (54.72%) + Class 2: 694 samples (38.56%) + Class 3: 55 samples (3.06%) + Class 4: 27 samples (1.50%) + Class 5: 22 samples (1.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.8039 +covertype_test_precision 10% removed: 0.8021 +covertype_test_recall 10% removed: 0.8039 +covertype_test_f1-score 10% removed: 0.8023 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 894 samples (55.88%) + Class 2: 624 samples (39.00%) + Class 3: 49 samples (3.06%) + Class 4: 9 samples (0.56%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.8112 +covertype_test_precision 20% removed: 0.8096 +covertype_test_recall 20% removed: 0.8112 +covertype_test_f1-score 20% removed: 0.8095 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 549 samples (54.90%) + Class 2: 429 samples (42.90%) + Class 3: 11 samples (1.10%) + Class 4: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.8180 +covertype_test_precision 50% removed: 0.8177 +covertype_test_recall 50% removed: 0.8180 +covertype_test_f1-score 50% removed: 0.8172 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpi3k_8iqf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpi3k_8iqf/output_4.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpi3k_8iqf/output_4.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpi3k_8iqf/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 153.61it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7767767906188965 │ +│ covertype_val_f1-score │ 0.7732269167900085 │ +│ covertype_val_loss │ 0.5719526410102844 │ +│ covertype_val_precision │ 0.774405837059021 │ +│ covertype_val_recall │ 0.7767767906188965 │ +│ covertype_val_score │ 0.7767767906188965 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.866357686405536e-07 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 311.94it/s +Validation metrics: [{'covertype_val_loss': 0.5719526410102844, 'lr': 9.866357686405536e-07, 'covertype_val_accuracy': 0.7767767906188965, 'covertype_val_precision': 0.774405837059021, 'covertype_val_recall': 0.7767767906188965, 'covertype_val_f1-score': 0.7732269167900085, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7767767906188965}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 20 samples (1.00%) + Class 1: 1021 samples (51.05%) + Class 2: 710 samples (35.50%) + Class 3: 61 samples (3.05%) + Class 4: 124 samples (6.20%) + Class 5: 61 samples (3.05%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7910000085830688 │ +│ covertype_test_f1-score │ 0.7899385690689087 │ +│ covertype_test_loss │ 0.5675233006477356 │ +│ covertype_test_precision │ 0.7908327579498291 │ +│ covertype_test_recall │ 0.7910000085830688 │ +│ covertype_test_score │ 0.7910000085830688 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.866358823273913e-07 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 366.04it/s +Test metrics: [{'covertype_test_loss': 0.5675233006477356, 'lr': 9.866358823273913e-07, 'covertype_test_accuracy': 0.7910000085830688, 'covertype_test_precision': 0.7908327579498291, 'covertype_test_recall': 0.7910000085830688, 'covertype_test_f1-score': 0.7899385690689087, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7910000085830688}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 19 samples (1.00%) + Class 1: 1009 samples (53.11%) + Class 2: 709 samples (37.32%) + Class 3: 60 samples (3.16%) + Class 4: 58 samples (3.05%) + Class 5: 45 samples (2.37%) +============================================================ +covertype_test_accuracy 5% removed: 0.8000 +covertype_test_precision 5% removed: 0.7984 +covertype_test_recall 5% removed: 0.8000 +covertype_test_f1-score 5% removed: 0.7986 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 986 samples (54.78%) + Class 2: 698 samples (38.78%) + Class 3: 56 samples (3.11%) + Class 4: 24 samples (1.33%) + Class 5: 19 samples (1.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.8089 +covertype_test_precision 10% removed: 0.8069 +covertype_test_recall 10% removed: 0.8089 +covertype_test_f1-score 10% removed: 0.8071 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 891 samples (55.69%) + Class 2: 630 samples (39.38%) + Class 3: 49 samples (3.06%) + Class 4: 7 samples (0.44%) + Class 5: 8 samples (0.50%) +============================================================ +covertype_test_accuracy 20% removed: 0.8144 +covertype_test_precision 20% removed: 0.8127 +covertype_test_recall 20% removed: 0.8144 +covertype_test_f1-score 20% removed: 0.8127 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 556 samples (55.60%) + Class 2: 425 samples (42.50%) + Class 3: 11 samples (1.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8150 +covertype_test_precision 50% removed: 0.8129 +covertype_test_recall 50% removed: 0.8150 +covertype_test_f1-score 50% removed: 0.8131 +Wrote results for dcnv2 on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/dcnv2_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7880±0.0041 5%: 0.7955±0.0049 10%: 0.8016±0.0066 20%: 0.8075±0.0067 50%: 0.8106±0.0098 +covertype_test_precision 0%: 0.7879±0.0042 5%: 0.7942±0.0043 10%: 0.7999±0.0063 20%: 0.8061±0.0064 50%: 0.8093±0.0102 +covertype_test_recall 0%: 0.7880±0.0041 5%: 0.7955±0.0049 10%: 0.8016±0.0066 20%: 0.8075±0.0067 50%: 0.8106±0.0098 +covertype_test_f1-score 0%: 0.7867±0.0042 5%: 0.7940±0.0047 10%: 0.8000±0.0064 20%: 0.8058±0.0066 50%: 0.8092±0.0100 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'resnet'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpzu58ibay/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpzu58ibay/output_0.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpzu58ibay/output_0.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpzu58ibay/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 157.95it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7697697877883911 │ +│ covertype_val_f1-score │ 0.7659540772438049 │ +│ covertype_val_loss │ 0.5834442973136902 │ +│ covertype_val_precision │ 0.7643371820449829 │ +│ covertype_val_recall │ 0.7697697877883911 │ +│ covertype_val_score │ 0.7697697877883911 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 340.11it/s +Validation metrics: [{'covertype_val_loss': 0.5834442973136902, 'lr': 0.0, 'covertype_val_accuracy': 0.7697697877883911, 'covertype_val_precision': 0.7643371820449829, 'covertype_val_recall': 0.7697697877883911, 'covertype_val_f1-score': 0.7659540772438049, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7697697877883911}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1035 samples (51.75%) + Class 2: 689 samples (34.45%) + Class 3: 66 samples (3.30%) + Class 4: 122 samples (6.10%) + Class 5: 68 samples (3.40%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7804999947547913 │ +│ covertype_test_f1-score │ 0.779385507106781 │ +│ covertype_test_loss │ 0.5663321614265442 │ +│ covertype_test_precision │ 0.7811416387557983 │ +│ covertype_test_recall │ 0.7804999947547913 │ +│ covertype_test_score │ 0.7804999947547913 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 354.58it/s +Test metrics: [{'covertype_test_loss': 0.5663321614265442, 'lr': 0.0, 'covertype_test_accuracy': 0.7804999947547913, 'covertype_test_precision': 0.7811416387557983, 'covertype_test_recall': 0.7804999947547913, 'covertype_test_f1-score': 0.779385507106781, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7804999947547913}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 16 samples (0.84%) + Class 1: 1024 samples (53.89%) + Class 2: 687 samples (36.16%) + Class 3: 66 samples (3.47%) + Class 4: 57 samples (3.00%) + Class 5: 50 samples (2.63%) +============================================================ +covertype_test_accuracy 5% removed: 0.7868 +covertype_test_precision 5% removed: 0.7864 +covertype_test_recall 5% removed: 0.7868 +covertype_test_f1-score 5% removed: 0.7854 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 998 samples (55.44%) + Class 2: 678 samples (37.67%) + Class 3: 62 samples (3.44%) + Class 4: 22 samples (1.22%) + Class 5: 24 samples (1.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.7933 +covertype_test_precision 10% removed: 0.7923 +covertype_test_recall 10% removed: 0.7933 +covertype_test_f1-score 10% removed: 0.7917 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 16 samples (1.00%) + Class 1: 900 samples (56.25%) + Class 2: 612 samples (38.25%) + Class 3: 55 samples (3.44%) + Class 4: 8 samples (0.50%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7981 +covertype_test_precision 20% removed: 0.7962 +covertype_test_recall 20% removed: 0.7981 +covertype_test_f1-score 20% removed: 0.7964 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 551 samples (55.10%) + Class 2: 422 samples (42.20%) + Class 3: 17 samples (1.70%) + Class 4: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7950 +covertype_test_precision 50% removed: 0.7944 +covertype_test_recall 50% removed: 0.7950 +covertype_test_f1-score 50% removed: 0.7941 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpzu58ibay/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpzu58ibay/output_1.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpzu58ibay/output_1.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpzu58ibay/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 178.52it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7477477192878723 │ +│ covertype_val_f1-score │ 0.7413778901100159 │ +│ covertype_val_loss │ 0.6066171526908875 │ +│ covertype_val_precision │ 0.7411110997200012 │ +│ covertype_val_recall │ 0.7477477192878723 │ +│ covertype_val_score │ 0.7477477192878723 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 411.92it/s +Validation metrics: [{'covertype_val_loss': 0.6066171526908875, 'lr': 0.0, 'covertype_val_accuracy': 0.7477477192878723, 'covertype_val_precision': 0.7411110997200012, 'covertype_val_recall': 0.7477477192878723, 'covertype_val_f1-score': 0.7413778901100159, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7477477192878723}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 23 samples (1.15%) + Class 1: 974 samples (48.70%) + Class 2: 785 samples (39.25%) + Class 3: 45 samples (2.25%) + Class 4: 124 samples (6.20%) + Class 5: 44 samples (2.20%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7820000052452087 │ +│ covertype_test_f1-score │ 0.7799208760261536 │ +│ covertype_test_loss │ 0.5695927143096924 │ +│ covertype_test_precision │ 0.7830932140350342 │ +│ covertype_test_recall │ 0.7820000052452087 │ +│ covertype_test_score │ 0.7820000052452087 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 416.08it/s +Test metrics: [{'covertype_test_loss': 0.5695927143096924, 'lr': 0.0, 'covertype_test_accuracy': 0.7820000052452087, 'covertype_test_precision': 0.7830932140350342, 'covertype_test_recall': 0.7820000052452087, 'covertype_test_f1-score': 0.7799208760261536, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7820000052452087}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 22 samples (1.16%) + Class 1: 955 samples (50.26%) + Class 2: 784 samples (41.26%) + Class 3: 44 samples (2.32%) + Class 4: 62 samples (3.26%) + Class 5: 32 samples (1.68%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7884 +covertype_test_precision 5% removed: 0.7915 +covertype_test_recall 5% removed: 0.7884 +covertype_test_f1-score 5% removed: 0.7873 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 21 samples (1.17%) + Class 1: 927 samples (51.50%) + Class 2: 774 samples (43.00%) + Class 3: 39 samples (2.17%) + Class 4: 20 samples (1.11%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7906 +covertype_test_precision 10% removed: 0.7933 +covertype_test_recall 10% removed: 0.7906 +covertype_test_f1-score 10% removed: 0.7894 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 17 samples (1.06%) + Class 1: 837 samples (52.31%) + Class 2: 698 samples (43.62%) + Class 3: 33 samples (2.06%) + Class 4: 8 samples (0.50%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7987 +covertype_test_precision 20% removed: 0.8013 +covertype_test_recall 20% removed: 0.7987 +covertype_test_f1-score 20% removed: 0.7974 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 531 samples (53.10%) + Class 2: 455 samples (45.50%) + Class 3: 5 samples (0.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8100 +covertype_test_precision 50% removed: 0.8121 +covertype_test_recall 50% removed: 0.8100 +covertype_test_f1-score 50% removed: 0.8081 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpzu58ibay/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpzu58ibay/output_2.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpzu58ibay/output_2.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpzu58ibay/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 45/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 168.93it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7557557821273804 │ +│ covertype_val_f1-score │ 0.7531976103782654 │ +│ covertype_val_loss │ 0.5901747345924377 │ +│ covertype_val_precision │ 0.7636789679527283 │ +│ covertype_val_recall │ 0.7557557821273804 │ +│ covertype_val_score │ 0.7557557821273804 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 315.67it/s +Validation metrics: [{'covertype_val_loss': 0.5901747345924377, 'lr': 0.0, 'covertype_val_accuracy': 0.7557557821273804, 'covertype_val_precision': 0.7636789679527283, 'covertype_val_recall': 0.7557557821273804, 'covertype_val_f1-score': 0.7531976103782654, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7557557821273804}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 20 samples (1.00%) + Class 1: 873 samples (43.65%) + Class 2: 855 samples (42.75%) + Class 3: 53 samples (2.65%) + Class 4: 139 samples (6.95%) + Class 5: 57 samples (2.85%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.765500009059906 │ +│ covertype_test_f1-score │ 0.7653543949127197 │ +│ covertype_test_loss │ 0.5660484433174133 │ +│ covertype_test_precision │ 0.7782503366470337 │ +│ covertype_test_recall │ 0.765500009059906 │ +│ covertype_test_score │ 0.765500009059906 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 327.17it/s +Test metrics: [{'covertype_test_loss': 0.5660484433174133, 'lr': 0.0, 'covertype_test_accuracy': 0.765500009059906, 'covertype_test_precision': 0.7782503366470337, 'covertype_test_recall': 0.765500009059906, 'covertype_test_f1-score': 0.7653543949127197, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.765500009059906}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 19 samples (1.00%) + Class 1: 859 samples (45.21%) + Class 2: 854 samples (44.95%) + Class 3: 52 samples (2.74%) + Class 4: 73 samples (3.84%) + Class 5: 43 samples (2.26%) +============================================================ +covertype_test_accuracy 5% removed: 0.7711 +covertype_test_precision 5% removed: 0.7838 +covertype_test_recall 5% removed: 0.7711 +covertype_test_f1-score 5% removed: 0.7713 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 19 samples (1.06%) + Class 1: 835 samples (46.39%) + Class 2: 842 samples (46.78%) + Class 3: 49 samples (2.72%) + Class 4: 32 samples (1.78%) + Class 5: 23 samples (1.28%) +============================================================ +covertype_test_accuracy 10% removed: 0.7744 +covertype_test_precision 10% removed: 0.7877 +covertype_test_recall 10% removed: 0.7744 +covertype_test_f1-score 10% removed: 0.7752 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 18 samples (1.12%) + Class 1: 757 samples (47.31%) + Class 2: 761 samples (47.56%) + Class 3: 43 samples (2.69%) + Class 4: 12 samples (0.75%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7806 +covertype_test_precision 20% removed: 0.7928 +covertype_test_recall 20% removed: 0.7806 +covertype_test_f1-score 20% removed: 0.7815 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 459 samples (45.90%) + Class 2: 519 samples (51.90%) + Class 3: 10 samples (1.00%) + Class 4: 1 samples (0.10%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7790 +covertype_test_precision 50% removed: 0.7906 +covertype_test_recall 50% removed: 0.7790 +covertype_test_f1-score 50% removed: 0.7790 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpzu58ibay/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpzu58ibay/output_3.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpzu58ibay/output_3.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpzu58ibay/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 181.64it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7737737894058228 │ +│ covertype_val_f1-score │ 0.7682695984840393 │ +│ covertype_val_loss │ 0.5866788625717163 │ +│ covertype_val_precision │ 0.7666941285133362 │ +│ covertype_val_recall │ 0.7737737894058228 │ +│ covertype_val_score │ 0.7737737894058228 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 311.23it/s +Validation metrics: [{'covertype_val_loss': 0.5866788625717163, 'lr': 0.0, 'covertype_val_accuracy': 0.7737737894058228, 'covertype_val_precision': 0.7666941285133362, 'covertype_val_recall': 0.7737737894058228, 'covertype_val_f1-score': 0.7682695984840393, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7737737894058228}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 31 samples (1.55%) + Class 1: 996 samples (49.80%) + Class 2: 732 samples (36.60%) + Class 3: 63 samples (3.15%) + Class 4: 115 samples (5.75%) + Class 5: 59 samples (2.95%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7820000052452087 │ +│ covertype_test_f1-score │ 0.7817652821540833 │ +│ covertype_test_loss │ 0.5516120791435242 │ +│ covertype_test_precision │ 0.782393753528595 │ +│ covertype_test_recall │ 0.7820000052452087 │ +│ covertype_test_score │ 0.7820000052452087 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 365.02it/s +Test metrics: [{'covertype_test_loss': 0.5516120791435242, 'lr': 0.0, 'covertype_test_accuracy': 0.7820000052452087, 'covertype_test_precision': 0.782393753528595, 'covertype_test_recall': 0.7820000052452087, 'covertype_test_f1-score': 0.7817652821540833, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7820000052452087}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 30 samples (1.58%) + Class 1: 984 samples (51.79%) + Class 2: 732 samples (38.53%) + Class 3: 61 samples (3.21%) + Class 4: 54 samples (2.84%) + Class 5: 38 samples (2.00%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7874 +covertype_test_precision 5% removed: 0.7882 +covertype_test_recall 5% removed: 0.7874 +covertype_test_f1-score 5% removed: 0.7871 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 28 samples (1.56%) + Class 1: 955 samples (53.06%) + Class 2: 720 samples (40.00%) + Class 3: 58 samples (3.22%) + Class 4: 21 samples (1.17%) + Class 5: 18 samples (1.00%) +============================================================ +covertype_test_accuracy 10% removed: 0.7894 +covertype_test_precision 10% removed: 0.7885 +covertype_test_recall 10% removed: 0.7894 +covertype_test_f1-score 10% removed: 0.7887 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 19 samples (1.19%) + Class 1: 865 samples (54.06%) + Class 2: 647 samples (40.44%) + Class 3: 51 samples (3.19%) + Class 4: 8 samples (0.50%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7956 +covertype_test_precision 20% removed: 0.7948 +covertype_test_recall 20% removed: 0.7956 +covertype_test_f1-score 20% removed: 0.7949 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 11 samples (1.10%) + Class 1: 549 samples (54.90%) + Class 2: 424 samples (42.40%) + Class 3: 14 samples (1.40%) + Class 4: 1 samples (0.10%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8100 +covertype_test_precision 50% removed: 0.8098 +covertype_test_recall 50% removed: 0.8100 +covertype_test_f1-score 50% removed: 0.8097 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpzu58ibay/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpzu58ibay/output_4.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpzu58ibay/output_4.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpzu58ibay/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 142.47it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7317317128181458 │ +│ covertype_val_f1-score │ 0.731164276599884 │ +│ covertype_val_loss │ 0.6166612505912781 │ +│ covertype_val_precision │ 0.731422483921051 │ +│ covertype_val_recall │ 0.7317317128181458 │ +│ covertype_val_score │ 0.7317317128181458 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 221.53it/s +Validation metrics: [{'covertype_val_loss': 0.6166612505912781, 'lr': 0.0, 'covertype_val_accuracy': 0.7317317128181458, 'covertype_val_precision': 0.731422483921051, 'covertype_val_recall': 0.7317317128181458, 'covertype_val_f1-score': 0.731164276599884, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7317317128181458}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 28 samples (1.40%) + Class 1: 1009 samples (50.45%) + Class 2: 693 samples (34.65%) + Class 3: 73 samples (3.65%) + Class 4: 122 samples (6.10%) + Class 5: 70 samples (3.50%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7534999847412109 │ +│ covertype_test_f1-score │ 0.753557562828064 │ +│ covertype_test_loss │ 0.5945109128952026 │ +│ covertype_test_precision │ 0.7545928359031677 │ +│ covertype_test_recall │ 0.7534999847412109 │ +│ covertype_test_score │ 0.7534999847412109 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 247.06it/s +Test metrics: [{'covertype_test_loss': 0.5945109128952026, 'lr': 0.0, 'covertype_test_accuracy': 0.7534999847412109, 'covertype_test_precision': 0.7545928359031677, 'covertype_test_recall': 0.7534999847412109, 'covertype_test_f1-score': 0.753557562828064, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7534999847412109}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 27 samples (1.42%) + Class 1: 1002 samples (52.74%) + Class 2: 692 samples (36.42%) + Class 3: 72 samples (3.79%) + Class 4: 54 samples (2.84%) + Class 5: 51 samples (2.68%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7579 +covertype_test_precision 5% removed: 0.7591 +covertype_test_recall 5% removed: 0.7579 +covertype_test_f1-score 5% removed: 0.7579 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 980 samples (54.44%) + Class 2: 684 samples (38.00%) + Class 3: 66 samples (3.67%) + Class 4: 24 samples (1.33%) + Class 5: 20 samples (1.11%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7667 +covertype_test_precision 10% removed: 0.7650 +covertype_test_recall 10% removed: 0.7667 +covertype_test_f1-score 10% removed: 0.7656 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 19 samples (1.19%) + Class 1: 882 samples (55.12%) + Class 2: 619 samples (38.69%) + Class 3: 60 samples (3.75%) + Class 4: 11 samples (0.69%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7713 +covertype_test_precision 20% removed: 0.7695 +covertype_test_recall 20% removed: 0.7713 +covertype_test_f1-score 20% removed: 0.7700 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 12 samples (1.20%) + Class 1: 537 samples (53.70%) + Class 2: 427 samples (42.70%) + Class 3: 19 samples (1.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7550 +covertype_test_precision 50% removed: 0.7584 +covertype_test_recall 50% removed: 0.7550 +covertype_test_f1-score 50% removed: 0.7564 +Wrote results for resnet on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/resnet_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7727±0.0159 5%: 0.7783±0.0167 10%: 0.7829±0.0145 20%: 0.7889±0.0153 50%: 0.7898±0.0289 +covertype_test_precision 0%: 0.7759±0.0150 5%: 0.7818±0.0161 10%: 0.7854±0.0144 20%: 0.7909±0.0153 50%: 0.7931±0.0267 +covertype_test_recall 0%: 0.7727±0.0159 5%: 0.7783±0.0167 10%: 0.7829±0.0145 20%: 0.7889±0.0153 50%: 0.7898±0.0289 +covertype_test_f1-score 0%: 0.7720±0.0152 5%: 0.7778±0.0161 10%: 0.7821±0.0140 20%: 0.7881±0.0149 50%: 0.7895±0.0276 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'autoint'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp631tk0kh/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp631tk0kh/output_0.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp631tk0kh/output_0.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp631tk0kh/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 110.01it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7547547817230225 │ +│ covertype_val_f1-score │ 0.7513076663017273 │ +│ covertype_val_loss │ 0.6326227188110352 │ +│ covertype_val_precision │ 0.749387800693512 │ +│ covertype_val_recall │ 0.7547547817230225 │ +│ covertype_val_score │ 0.7547547817230225 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 196.45it/s +Validation metrics: [{'covertype_val_loss': 0.6326227188110352, 'lr': 0.0, 'covertype_val_accuracy': 0.7547547817230225, 'covertype_val_precision': 0.749387800693512, 'covertype_val_recall': 0.7547547817230225, 'covertype_val_f1-score': 0.7513076663017273, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7547547817230225}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 984 samples (49.20%) + Class 2: 759 samples (37.95%) + Class 3: 53 samples (2.65%) + Class 4: 120 samples (6.00%) + Class 5: 62 samples (3.10%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7519999742507935 │ +│ covertype_test_f1-score │ 0.7507774233818054 │ +│ covertype_test_loss │ 0.594437301158905 │ +│ covertype_test_precision │ 0.7525336742401123 │ +│ covertype_test_recall │ 0.7519999742507935 │ +│ covertype_test_score │ 0.7519999742507935 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 199.78it/s +Test metrics: [{'covertype_test_loss': 0.594437301158905, 'lr': 0.0, 'covertype_test_accuracy': 0.7519999742507935, 'covertype_test_precision': 0.7525336742401123, 'covertype_test_recall': 0.7519999742507935, 'covertype_test_f1-score': 0.7507774233818054, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7519999742507935}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 974 samples (51.26%) + Class 2: 757 samples (39.84%) + Class 3: 53 samples (2.79%) + Class 4: 55 samples (2.89%) + Class 5: 43 samples (2.26%) +============================================================ +covertype_test_accuracy 5% removed: 0.7547 +covertype_test_precision 5% removed: 0.7537 +covertype_test_recall 5% removed: 0.7547 +covertype_test_f1-score 5% removed: 0.7532 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 949 samples (52.72%) + Class 2: 746 samples (41.44%) + Class 3: 50 samples (2.78%) + Class 4: 18 samples (1.00%) + Class 5: 21 samples (1.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7578 +covertype_test_precision 10% removed: 0.7569 +covertype_test_recall 10% removed: 0.7578 +covertype_test_f1-score 10% removed: 0.7559 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 859 samples (53.69%) + Class 2: 672 samples (42.00%) + Class 3: 44 samples (2.75%) + Class 4: 3 samples (0.19%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7675 +covertype_test_precision 20% removed: 0.7656 +covertype_test_recall 20% removed: 0.7675 +covertype_test_f1-score 20% removed: 0.7650 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 530 samples (53.00%) + Class 2: 450 samples (45.00%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7620 +covertype_test_precision 50% removed: 0.7611 +covertype_test_recall 50% removed: 0.7620 +covertype_test_f1-score 50% removed: 0.7607 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp631tk0kh/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp631tk0kh/output_1.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp631tk0kh/output_1.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp631tk0kh/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 112.20it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7487487196922302 │ +│ covertype_val_f1-score │ 0.7446316480636597 │ +│ covertype_val_loss │ 0.6537199020385742 │ +│ covertype_val_precision │ 0.7427614331245422 │ +│ covertype_val_recall │ 0.7487487196922302 │ +│ covertype_val_score │ 0.7487487196922302 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.866357686405536e-07 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 193.77it/s +Validation metrics: [{'covertype_val_loss': 0.6537199020385742, 'lr': 9.866357686405536e-07, 'covertype_val_accuracy': 0.7487487196922302, 'covertype_val_precision': 0.7427614331245422, 'covertype_val_recall': 0.7487487196922302, 'covertype_val_f1-score': 0.7446316480636597, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7487487196922302}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 20 samples (1.00%) + Class 1: 982 samples (49.10%) + Class 2: 751 samples (37.55%) + Class 3: 52 samples (2.60%) + Class 4: 129 samples (6.45%) + Class 5: 62 samples (3.10%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.753000020980835 │ +│ covertype_test_f1-score │ 0.7524586319923401 │ +│ covertype_test_loss │ 0.6383432149887085 │ +│ covertype_test_precision │ 0.7549324631690979 │ +│ covertype_test_recall │ 0.753000020980835 │ +│ covertype_test_score │ 0.753000020980835 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.866358823273913e-07 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 186.99it/s +Test metrics: [{'covertype_test_loss': 0.6383432149887085, 'lr': 9.866358823273913e-07, 'covertype_test_accuracy': 0.753000020980835, 'covertype_test_precision': 0.7549324631690979, 'covertype_test_recall': 0.753000020980835, 'covertype_test_f1-score': 0.7524586319923401, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.753000020980835}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 19 samples (1.00%) + Class 1: 972 samples (51.16%) + Class 2: 750 samples (39.47%) + Class 3: 51 samples (2.68%) + Class 4: 64 samples (3.37%) + Class 5: 43 samples (2.26%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7584 +covertype_test_precision 5% removed: 0.7607 +covertype_test_recall 5% removed: 0.7584 +covertype_test_f1-score 5% removed: 0.7579 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 19 samples (1.06%) + Class 1: 943 samples (52.39%) + Class 2: 741 samples (41.17%) + Class 3: 48 samples (2.67%) + Class 4: 23 samples (1.28%) + Class 5: 25 samples (1.39%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7639 +covertype_test_precision 10% removed: 0.7652 +covertype_test_recall 10% removed: 0.7639 +covertype_test_f1-score 10% removed: 0.7634 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 859 samples (53.69%) + Class 2: 666 samples (41.62%) + Class 3: 41 samples (2.56%) + Class 4: 6 samples (0.38%) + Class 5: 13 samples (0.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.7738 +covertype_test_precision 20% removed: 0.7744 +covertype_test_recall 20% removed: 0.7738 +covertype_test_f1-score 20% removed: 0.7727 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 543 samples (54.30%) + Class 2: 441 samples (44.10%) + Class 3: 8 samples (0.80%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7790 +covertype_test_precision 50% removed: 0.7774 +covertype_test_recall 50% removed: 0.7790 +covertype_test_f1-score 50% removed: 0.7769 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp631tk0kh/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp631tk0kh/output_2.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp631tk0kh/output_2.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp631tk0kh/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 39/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 108.21it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7407407164573669 │ +│ covertype_val_f1-score │ 0.7394506335258484 │ +│ covertype_val_loss │ 0.6517529487609863 │ +│ covertype_val_precision │ 0.7442084550857544 │ +│ covertype_val_recall │ 0.7407407164573669 │ +│ covertype_val_score │ 0.7407407164573669 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.549149399390444e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 213.23it/s +Validation metrics: [{'covertype_val_loss': 0.6517529487609863, 'lr': 9.549149399390444e-05, 'covertype_val_accuracy': 0.7407407164573669, 'covertype_val_precision': 0.7442084550857544, 'covertype_val_recall': 0.7407407164573669, 'covertype_val_f1-score': 0.7394506335258484, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7407407164573669}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 966 samples (48.30%) + Class 2: 771 samples (38.55%) + Class 3: 57 samples (2.85%) + Class 4: 116 samples (5.80%) + Class 5: 69 samples (3.45%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7570000290870667 │ +│ covertype_test_f1-score │ 0.7565316557884216 │ +│ covertype_test_loss │ 0.5986815094947815 │ +│ covertype_test_precision │ 0.7596079111099243 │ +│ covertype_test_recall │ 0.7570000290870667 │ +│ covertype_test_score │ 0.7570000290870667 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.549151582177728e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 218.53it/s +Test metrics: [{'covertype_test_loss': 0.5986815094947815, 'lr': 9.549151582177728e-05, 'covertype_test_accuracy': 0.7570000290870667, 'covertype_test_precision': 0.7596079111099243, 'covertype_test_recall': 0.7570000290870667, 'covertype_test_f1-score': 0.7565316557884216, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7570000290870667}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 16 samples (0.84%) + Class 1: 954 samples (50.21%) + Class 2: 770 samples (40.53%) + Class 3: 56 samples (2.95%) + Class 4: 55 samples (2.89%) + Class 5: 48 samples (2.53%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7637 +covertype_test_precision 5% removed: 0.7666 +covertype_test_recall 5% removed: 0.7637 +covertype_test_f1-score 5% removed: 0.7630 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 931 samples (51.72%) + Class 2: 759 samples (42.17%) + Class 3: 53 samples (2.94%) + Class 4: 17 samples (0.94%) + Class 5: 23 samples (1.28%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7717 +covertype_test_precision 10% removed: 0.7722 +covertype_test_recall 10% removed: 0.7717 +covertype_test_f1-score 10% removed: 0.7701 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 845 samples (52.81%) + Class 2: 683 samples (42.69%) + Class 3: 46 samples (2.88%) + Class 4: 2 samples (0.12%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7819 +covertype_test_precision 20% removed: 0.7818 +covertype_test_recall 20% removed: 0.7819 +covertype_test_f1-score 20% removed: 0.7795 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 517 samples (51.70%) + Class 2: 463 samples (46.30%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7750 +covertype_test_precision 50% removed: 0.7750 +covertype_test_recall 50% removed: 0.7750 +covertype_test_f1-score 50% removed: 0.7738 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp631tk0kh/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp631tk0kh/output_3.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp631tk0kh/output_3.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp631tk0kh/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 109.74it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7497497200965881 │ +│ covertype_val_f1-score │ 0.7463852763175964 │ +│ covertype_val_loss │ 0.5999866724014282 │ +│ covertype_val_precision │ 0.745726466178894 │ +│ covertype_val_recall │ 0.7497497200965881 │ +│ covertype_val_score │ 0.7497497200965881 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 156.58it/s +Validation metrics: [{'covertype_val_loss': 0.5999866724014282, 'lr': 0.0, 'covertype_val_accuracy': 0.7497497200965881, 'covertype_val_precision': 0.745726466178894, 'covertype_val_recall': 0.7497497200965881, 'covertype_val_f1-score': 0.7463852763175964, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7497497200965881}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1016 samples (50.80%) + Class 2: 726 samples (36.30%) + Class 3: 54 samples (2.70%) + Class 4: 121 samples (6.05%) + Class 5: 62 samples (3.10%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7714999914169312 │ +│ covertype_test_f1-score │ 0.769902229309082 │ +│ covertype_test_loss │ 0.5884814858436584 │ +│ covertype_test_precision │ 0.770732045173645 │ +│ covertype_test_recall │ 0.7714999914169312 │ +│ covertype_test_score │ 0.7714999914169312 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 201.68it/s +Test metrics: [{'covertype_test_loss': 0.5884814858436584, 'lr': 0.0, 'covertype_test_accuracy': 0.7714999914169312, 'covertype_test_precision': 0.770732045173645, 'covertype_test_recall': 0.7714999914169312, 'covertype_test_f1-score': 0.769902229309082, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7714999914169312}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 1005 samples (52.89%) + Class 2: 725 samples (38.16%) + Class 3: 53 samples (2.79%) + Class 4: 57 samples (3.00%) + Class 5: 44 samples (2.32%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7763 +covertype_test_precision 5% removed: 0.7763 +covertype_test_recall 5% removed: 0.7763 +covertype_test_f1-score 5% removed: 0.7747 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 978 samples (54.33%) + Class 2: 715 samples (39.72%) + Class 3: 50 samples (2.78%) + Class 4: 20 samples (1.11%) + Class 5: 24 samples (1.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.7761 +covertype_test_precision 10% removed: 0.7746 +covertype_test_recall 10% removed: 0.7761 +covertype_test_f1-score 10% removed: 0.7738 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 887 samples (55.44%) + Class 2: 644 samples (40.25%) + Class 3: 44 samples (2.75%) + Class 4: 3 samples (0.19%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7837 +covertype_test_precision 20% removed: 0.7826 +covertype_test_recall 20% removed: 0.7837 +covertype_test_f1-score 20% removed: 0.7809 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 555 samples (55.50%) + Class 2: 429 samples (42.90%) + Class 3: 10 samples (1.00%) +============================================================ +covertype_test_accuracy 50% removed: 0.7820 +covertype_test_precision 50% removed: 0.7796 +covertype_test_recall 50% removed: 0.7820 +covertype_test_f1-score 50% removed: 0.7794 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp631tk0kh/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp631tk0kh/output_4.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp631tk0kh/output_4.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp631tk0kh/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 104.10it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7717717885971069 │ +│ covertype_val_f1-score │ 0.7686932682991028 │ +│ covertype_val_loss │ 0.5745082497596741 │ +│ covertype_val_precision │ 0.7699586749076843 │ +│ covertype_val_recall │ 0.7717717885971069 │ +│ covertype_val_score │ 0.7717717885971069 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 172.97it/s +Validation metrics: [{'covertype_val_loss': 0.5745082497596741, 'lr': 0.0, 'covertype_val_accuracy': 0.7717717885971069, 'covertype_val_precision': 0.7699586749076843, 'covertype_val_recall': 0.7717717885971069, 'covertype_val_f1-score': 0.7686932682991028, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7717717885971069}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1011 samples (50.55%) + Class 2: 721 samples (36.05%) + Class 3: 57 samples (2.85%) + Class 4: 136 samples (6.80%) + Class 5: 53 samples (2.65%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7714999914169312 │ +│ covertype_test_f1-score │ 0.7698100209236145 │ +│ covertype_test_loss │ 0.5763459205627441 │ +│ covertype_test_precision │ 0.7711502909660339 │ +│ covertype_test_recall │ 0.7714999914169312 │ +│ covertype_test_score │ 0.7714999914169312 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 199.84it/s +Test metrics: [{'covertype_test_loss': 0.5763459205627441, 'lr': 0.0, 'covertype_test_accuracy': 0.7714999914169312, 'covertype_test_precision': 0.7711502909660339, 'covertype_test_recall': 0.7714999914169312, 'covertype_test_f1-score': 0.7698100209236145, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7714999914169312}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 1004 samples (52.84%) + Class 2: 720 samples (37.89%) + Class 3: 56 samples (2.95%) + Class 4: 63 samples (3.32%) + Class 5: 41 samples (2.16%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7789 +covertype_test_precision 5% removed: 0.7786 +covertype_test_recall 5% removed: 0.7789 +covertype_test_f1-score 5% removed: 0.7773 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.78%) + Class 1: 980 samples (54.44%) + Class 2: 709 samples (39.39%) + Class 3: 53 samples (2.94%) + Class 4: 22 samples (1.22%) + Class 5: 21 samples (1.17%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7822 +covertype_test_precision 10% removed: 0.7806 +covertype_test_recall 10% removed: 0.7822 +covertype_test_f1-score 10% removed: 0.7803 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 889 samples (55.56%) + Class 2: 639 samples (39.94%) + Class 3: 46 samples (2.88%) + Class 4: 4 samples (0.25%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7887 +covertype_test_precision 20% removed: 0.7872 +covertype_test_recall 20% removed: 0.7887 +covertype_test_f1-score 20% removed: 0.7864 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 559 samples (55.90%) + Class 2: 420 samples (42.00%) + Class 3: 11 samples (1.10%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7920 +covertype_test_precision 50% removed: 0.7900 +covertype_test_recall 50% removed: 0.7920 +covertype_test_f1-score 50% removed: 0.7903 +Wrote results for autoint on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/autoint_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7610±0.0121 5%: 0.7664±0.0134 10%: 0.7703±0.0120 20%: 0.7791±0.0105 50%: 0.7780±0.0136 +covertype_test_precision 0%: 0.7618±0.0108 5%: 0.7672±0.0130 10%: 0.7699±0.0113 20%: 0.7783±0.0105 50%: 0.7766±0.0129 +covertype_test_recall 0%: 0.7610±0.0121 5%: 0.7664±0.0134 10%: 0.7703±0.0120 20%: 0.7791±0.0105 50%: 0.7780±0.0136 +covertype_test_f1-score 0%: 0.7599±0.0116 5%: 0.7652±0.0130 10%: 0.7687±0.0117 20%: 0.7769±0.0102 50%: 0.7762±0.0132 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'fttransformer'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmprl8vvymo/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmprl8vvymo/output_0.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmprl8vvymo/output_0.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmprl8vvymo/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 66.88it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7537537813186646 │ +│ covertype_val_f1-score │ 0.7490492463111877 │ +│ covertype_val_loss │ 0.5868549346923828 │ +│ covertype_val_precision │ 0.7523459196090698 │ +│ covertype_val_recall │ 0.7537537813186646 │ +│ covertype_val_score │ 0.7537537813186646 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 87.98it/s +Validation metrics: [{'covertype_val_loss': 0.5868549346923828, 'lr': 0.0, 'covertype_val_accuracy': 0.7537537813186646, 'covertype_val_precision': 0.7523459196090698, 'covertype_val_recall': 0.7537537813186646, 'covertype_val_f1-score': 0.7490492463111877, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7537537813186646}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 9 samples (0.45%) + Class 1: 973 samples (48.65%) + Class 2: 771 samples (38.55%) + Class 3: 55 samples (2.75%) + Class 4: 138 samples (6.90%) + Class 5: 49 samples (2.45%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7444999814033508 │ +│ covertype_test_f1-score │ 0.7416732311248779 │ +│ covertype_test_loss │ 0.5889189839363098 │ +│ covertype_test_precision │ 0.7466033101081848 │ +│ covertype_test_recall │ 0.7444999814033508 │ +│ covertype_test_score │ 0.7444999814033508 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 113.31it/s +Test metrics: [{'covertype_test_loss': 0.5889189839363098, 'lr': 0.0, 'covertype_test_accuracy': 0.7444999814033508, 'covertype_test_precision': 0.7466033101081848, 'covertype_test_recall': 0.7444999814033508, 'covertype_test_f1-score': 0.7416732311248779, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7444999814033508}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 8 samples (0.42%) + Class 1: 965 samples (50.79%) + Class 2: 770 samples (40.53%) + Class 3: 54 samples (2.84%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7521 +covertype_test_precision 5% removed: 0.7545 +covertype_test_recall 5% removed: 0.7521 +covertype_test_f1-score 5% removed: 0.7497 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 8 samples (0.44%) + Class 1: 944 samples (52.44%) + Class 2: 759 samples (42.17%) + Class 3: 51 samples (2.83%) + Class 4: 23 samples (1.28%) + Class 5: 14 samples (0.78%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7556 +covertype_test_precision 10% removed: 0.7557 +covertype_test_recall 10% removed: 0.7556 +covertype_test_f1-score 10% removed: 0.7526 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 8 samples (0.50%) + Class 1: 851 samples (53.19%) + Class 2: 684 samples (42.75%) + Class 3: 46 samples (2.88%) + Class 4: 3 samples (0.19%) + Class 5: 8 samples (0.50%) +============================================================ +covertype_test_accuracy 20% removed: 0.7650 +covertype_test_precision 20% removed: 0.7667 +covertype_test_recall 20% removed: 0.7650 +covertype_test_f1-score 20% removed: 0.7622 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 519 samples (51.90%) + Class 2: 460 samples (46.00%) + Class 3: 14 samples (1.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.7680 +covertype_test_precision 50% removed: 0.7674 +covertype_test_recall 50% removed: 0.7680 +covertype_test_f1-score 50% removed: 0.7666 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmprl8vvymo/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmprl8vvymo/output_1.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmprl8vvymo/output_1.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmprl8vvymo/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 64.03it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7377377152442932 │ +│ covertype_val_f1-score │ 0.7321439385414124 │ +│ covertype_val_loss │ 0.6317379474639893 │ +│ covertype_val_precision │ 0.733314573764801 │ +│ covertype_val_recall │ 0.7377377152442932 │ +│ covertype_val_score │ 0.7377377152442932 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 85.46it/s +Validation metrics: [{'covertype_val_loss': 0.6317379474639893, 'lr': 0.0, 'covertype_val_accuracy': 0.7377377152442932, 'covertype_val_precision': 0.733314573764801, 'covertype_val_recall': 0.7377377152442932, 'covertype_val_f1-score': 0.7321439385414124, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7377377152442932}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 10 samples (0.50%) + Class 1: 982 samples (49.10%) + Class 2: 760 samples (38.00%) + Class 3: 64 samples (3.20%) + Class 4: 129 samples (6.45%) + Class 5: 46 samples (2.30%) + Class 6: 9 samples (0.45%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7475000023841858 │ +│ covertype_test_f1-score │ 0.7449489831924438 │ +│ covertype_test_loss │ 0.5953727960586548 │ +│ covertype_test_precision │ 0.7492551803588867 │ +│ covertype_test_recall │ 0.7475000023841858 │ +│ covertype_test_score │ 0.7475000023841858 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 105.77it/s +Test metrics: [{'covertype_test_loss': 0.5953727960586548, 'lr': 0.0, 'covertype_test_accuracy': 0.7475000023841858, 'covertype_test_precision': 0.7492551803588867, 'covertype_test_recall': 0.7475000023841858, 'covertype_test_f1-score': 0.7449489831924438, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7475000023841858}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 10 samples (0.53%) + Class 1: 971 samples (51.11%) + Class 2: 760 samples (40.00%) + Class 3: 62 samples (3.26%) + Class 4: 59 samples (3.11%) + Class 5: 36 samples (1.89%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7537 +covertype_test_precision 5% removed: 0.7564 +covertype_test_recall 5% removed: 0.7537 +covertype_test_f1-score 5% removed: 0.7521 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 10 samples (0.56%) + Class 1: 949 samples (52.72%) + Class 2: 748 samples (41.56%) + Class 3: 59 samples (3.28%) + Class 4: 21 samples (1.17%) + Class 5: 12 samples (0.67%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7567 +covertype_test_precision 10% removed: 0.7583 +covertype_test_recall 10% removed: 0.7567 +covertype_test_f1-score 10% removed: 0.7545 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 10 samples (0.62%) + Class 1: 858 samples (53.62%) + Class 2: 672 samples (42.00%) + Class 3: 52 samples (3.25%) + Class 4: 3 samples (0.19%) + Class 5: 5 samples (0.31%) +============================================================ +covertype_test_accuracy 20% removed: 0.7638 +covertype_test_precision 20% removed: 0.7667 +covertype_test_recall 20% removed: 0.7638 +covertype_test_f1-score 20% removed: 0.7617 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 530 samples (53.00%) + Class 2: 450 samples (45.00%) + Class 3: 14 samples (1.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.7730 +covertype_test_precision 50% removed: 0.7721 +covertype_test_recall 50% removed: 0.7730 +covertype_test_f1-score 50% removed: 0.7713 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmprl8vvymo/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmprl8vvymo/output_2.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmprl8vvymo/output_2.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmprl8vvymo/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 68.04it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.759759783744812 │ +│ covertype_val_f1-score │ 0.7539041638374329 │ +│ covertype_val_loss │ 0.5746796131134033 │ +│ covertype_val_precision │ 0.7580568194389343 │ +│ covertype_val_recall │ 0.759759783744812 │ +│ covertype_val_score │ 0.759759783744812 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 103.98it/s +Validation metrics: [{'covertype_val_loss': 0.5746796131134033, 'lr': 0.0, 'covertype_val_accuracy': 0.759759783744812, 'covertype_val_precision': 0.7580568194389343, 'covertype_val_recall': 0.759759783744812, 'covertype_val_f1-score': 0.7539041638374329, 'covertype_val_support': 999.0, 'covertype_val_score': 0.759759783744812}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 976 samples (48.80%) + Class 2: 751 samples (37.55%) + Class 3: 60 samples (3.00%) + Class 4: 138 samples (6.90%) + Class 5: 57 samples (2.85%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7705000042915344 │ +│ covertype_test_f1-score │ 0.7692508697509766 │ +│ covertype_test_loss │ 0.5543010830879211 │ +│ covertype_test_precision │ 0.7731215953826904 │ +│ covertype_test_recall │ 0.7705000042915344 │ +│ covertype_test_score │ 0.7705000042915344 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 109.85it/s +Test metrics: [{'covertype_test_loss': 0.5543010830879211, 'lr': 0.0, 'covertype_test_accuracy': 0.7705000042915344, 'covertype_test_precision': 0.7731215953826904, 'covertype_test_recall': 0.7705000042915344, 'covertype_test_f1-score': 0.7692508697509766, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7705000042915344}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 970 samples (51.05%) + Class 2: 749 samples (39.42%) + Class 3: 60 samples (3.16%) + Class 4: 62 samples (3.26%) + Class 5: 46 samples (2.42%) +============================================================ +covertype_test_accuracy 5% removed: 0.7763 +covertype_test_precision 5% removed: 0.7772 +covertype_test_recall 5% removed: 0.7763 +covertype_test_f1-score 5% removed: 0.7749 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 946 samples (52.56%) + Class 2: 738 samples (41.00%) + Class 3: 57 samples (3.17%) + Class 4: 22 samples (1.22%) + Class 5: 24 samples (1.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.7817 +covertype_test_precision 10% removed: 0.7826 +covertype_test_recall 10% removed: 0.7817 +covertype_test_f1-score 10% removed: 0.7803 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 855 samples (53.44%) + Class 2: 667 samples (41.69%) + Class 3: 50 samples (3.12%) + Class 4: 4 samples (0.25%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7894 +covertype_test_precision 20% removed: 0.7910 +covertype_test_recall 20% removed: 0.7894 +covertype_test_f1-score 20% removed: 0.7882 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 529 samples (52.90%) + Class 2: 450 samples (45.00%) + Class 3: 12 samples (1.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7900 +covertype_test_precision 50% removed: 0.7889 +covertype_test_recall 50% removed: 0.7900 +covertype_test_f1-score 50% removed: 0.7889 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmprl8vvymo/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmprl8vvymo/output_3.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmprl8vvymo/output_3.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmprl8vvymo/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 77.56it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7307307124137878 │ +│ covertype_val_f1-score │ 0.7268344163894653 │ +│ covertype_val_loss │ 0.6048537492752075 │ +│ covertype_val_precision │ 0.7289294600486755 │ +│ covertype_val_recall │ 0.7307307124137878 │ +│ covertype_val_score │ 0.7307307124137878 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 141.93it/s +Validation metrics: [{'covertype_val_loss': 0.6048537492752075, 'lr': 0.0, 'covertype_val_accuracy': 0.7307307124137878, 'covertype_val_precision': 0.7289294600486755, 'covertype_val_recall': 0.7307307124137878, 'covertype_val_f1-score': 0.7268344163894653, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7307307124137878}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 10 samples (0.50%) + Class 1: 1004 samples (50.20%) + Class 2: 731 samples (36.55%) + Class 3: 59 samples (2.95%) + Class 4: 146 samples (7.30%) + Class 5: 44 samples (2.20%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7584999799728394 │ +│ covertype_test_f1-score │ 0.7557846307754517 │ +│ covertype_test_loss │ 0.5673054456710815 │ +│ covertype_test_precision │ 0.7606415152549744 │ +│ covertype_test_recall │ 0.7584999799728394 │ +│ covertype_test_score │ 0.7584999799728394 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 139.61it/s +Test metrics: [{'covertype_test_loss': 0.5673054456710815, 'lr': 0.0, 'covertype_test_accuracy': 0.7584999799728394, 'covertype_test_precision': 0.7606415152549744, 'covertype_test_recall': 0.7584999799728394, 'covertype_test_f1-score': 0.7557846307754517, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7584999799728394}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 9 samples (0.47%) + Class 1: 996 samples (52.42%) + Class 2: 731 samples (38.47%) + Class 3: 57 samples (3.00%) + Class 4: 71 samples (3.74%) + Class 5: 35 samples (1.84%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7684 +covertype_test_precision 5% removed: 0.7705 +covertype_test_recall 5% removed: 0.7684 +covertype_test_f1-score 5% removed: 0.7661 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 9 samples (0.50%) + Class 1: 976 samples (54.22%) + Class 2: 719 samples (39.94%) + Class 3: 54 samples (3.00%) + Class 4: 24 samples (1.33%) + Class 5: 17 samples (0.94%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7728 +covertype_test_precision 10% removed: 0.7730 +covertype_test_recall 10% removed: 0.7728 +covertype_test_f1-score 10% removed: 0.7703 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 883 samples (55.19%) + Class 2: 648 samples (40.50%) + Class 3: 47 samples (2.94%) + Class 4: 6 samples (0.38%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7794 +covertype_test_precision 20% removed: 0.7793 +covertype_test_recall 20% removed: 0.7794 +covertype_test_f1-score 20% removed: 0.7770 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 546 samples (54.60%) + Class 2: 438 samples (43.80%) + Class 3: 10 samples (1.00%) +============================================================ +covertype_test_accuracy 50% removed: 0.7770 +covertype_test_precision 50% removed: 0.7759 +covertype_test_recall 50% removed: 0.7770 +covertype_test_f1-score 50% removed: 0.7749 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmprl8vvymo/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmprl8vvymo/output_4.json +General args: +╒════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmprl8vvymo/output_4.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmprl8vvymo/split_data/split_config.json │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 89.01it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7417417168617249 │ +│ covertype_val_f1-score │ 0.7362958788871765 │ +│ covertype_val_loss │ 0.5921874046325684 │ +│ covertype_val_precision │ 0.7374423742294312 │ +│ covertype_val_recall │ 0.7417417168617249 │ +│ covertype_val_score │ 0.7417417168617249 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 227.26it/s +Validation metrics: [{'covertype_val_loss': 0.5921874046325684, 'lr': 0.0, 'covertype_val_accuracy': 0.7417417168617249, 'covertype_val_precision': 0.7374423742294312, 'covertype_val_recall': 0.7417417168617249, 'covertype_val_f1-score': 0.7362958788871765, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7417417168617249}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 12 samples (0.60%) + Class 1: 994 samples (49.70%) + Class 2: 745 samples (37.25%) + Class 3: 56 samples (2.80%) + Class 4: 137 samples (6.85%) + Class 5: 51 samples (2.55%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7494999766349792 │ +│ covertype_test_f1-score │ 0.747082531452179 │ +│ covertype_test_loss │ 0.5822055339813232 │ +│ covertype_test_precision │ 0.749546468257904 │ +│ covertype_test_recall │ 0.7494999766349792 │ +│ covertype_test_score │ 0.7494999766349792 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 219.13it/s +Test metrics: [{'covertype_test_loss': 0.5822055339813232, 'lr': 0.0, 'covertype_test_accuracy': 0.7494999766349792, 'covertype_test_precision': 0.749546468257904, 'covertype_test_recall': 0.7494999766349792, 'covertype_test_f1-score': 0.747082531452179, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7494999766349792}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 1000 samples (52.63%) + Class 2: 706 samples (37.16%) + Class 3: 64 samples (3.37%) + Class 4: 58 samples (3.05%) + Class 5: 37 samples (1.95%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 12 samples (0.63%) + Class 1: 985 samples (51.84%) + Class 2: 745 samples (39.21%) + Class 3: 54 samples (2.84%) + Class 4: 61 samples (3.21%) + Class 5: 42 samples (2.21%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7600 +covertype_test_precision 5% removed: 0.7609 +covertype_test_recall 5% removed: 0.7600 +covertype_test_f1-score 5% removed: 0.7582 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 968 samples (53.78%) + Class 2: 697 samples (38.72%) + Class 3: 59 samples (3.28%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 12 samples (0.67%) + Class 1: 967 samples (53.72%) + Class 2: 731 samples (40.61%) + Class 3: 51 samples (2.83%) + Class 4: 21 samples (1.17%) + Class 5: 17 samples (0.94%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7644 +covertype_test_precision 10% removed: 0.7632 +covertype_test_recall 10% removed: 0.7644 +covertype_test_f1-score 10% removed: 0.7622 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 869 samples (54.31%) + Class 2: 634 samples (39.62%) + Class 3: 52 samples (3.25%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 880 samples (55.00%) + Class 2: 656 samples (41.00%) + Class 3: 44 samples (2.75%) + Class 4: 4 samples (0.25%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7694 +covertype_test_precision 20% removed: 0.7699 +covertype_test_recall 20% removed: 0.7694 +covertype_test_f1-score 20% removed: 0.7667 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 537 samples (53.70%) + Class 2: 434 samples (43.40%) + Class 3: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 546 samples (54.60%) + Class 2: 436 samples (43.60%) + Class 3: 13 samples (1.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7700 +covertype_test_precision 50% removed: 0.7691 +covertype_test_recall 50% removed: 0.7700 +covertype_test_f1-score 50% removed: 0.7678 +Wrote results for fttransformer on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/fttransformer_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7541±0.0131 5%: 0.7621±0.0127 10%: 0.7662±0.0137 20%: 0.7734±0.0135 50%: 0.7756±0.0108 +covertype_test_precision 0%: 0.7558±0.0137 5%: 0.7639±0.0120 10%: 0.7666±0.0138 20%: 0.7747±0.0130 50%: 0.7747±0.0106 +covertype_test_recall 0%: 0.7541±0.0131 5%: 0.7621±0.0127 10%: 0.7662±0.0137 20%: 0.7734±0.0135 50%: 0.7756±0.0108 +covertype_test_f1-score 0%: 0.7517±0.0138 5%: 0.7602±0.0129 10%: 0.7640±0.0143 20%: 0.7711±0.0140 50%: 0.7739±0.0111 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 + +================================================================================ +FINAL SUMMARY: Test Accuracy by Model and Uncertainty Filtering Percentage +Dataset: covertype +================================================================================ +Model 0% removed 5% removed 10% removed 20% removed 50% removed +-------------------------------------------------------------------------------- +mlp 0.7000±0.0577 0.7072±0.0615 0.7130±0.0599 0.7209±0.0599 0.7302±0.0586 +dcnv2 0.7880±0.0041 0.7955±0.0049 0.8016±0.0066 0.8075±0.0067 0.8106±0.0098 +resnet 0.7727±0.0159 0.7783±0.0167 0.7829±0.0145 0.7889±0.0153 0.7898±0.0289 +autoint 0.7610±0.0121 0.7664±0.0134 0.7703±0.0120 0.7791±0.0105 0.7780±0.0136 +fttransformer 0.7541±0.0131 0.7621±0.0127 0.7662±0.0137 0.7734±0.0135 0.7756±0.0108 +================================================================================ + +Downstream pipeline complete. Results under /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..cab2c1beb4e31bc72b670bbcdc5601e6630fd12e --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "b8eee4631a2599941fc2db8b4cc17c3f383722749838b9bc7e0267e77537cf6e", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "6f549d93958ab1affbd2c77d8a8ce98e02e4150e008e9989bbcc31323e709a76", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 3e-08, + "start_epoch": 50, + "annealing_epochs": 50 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "25", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "3e-08", + "--vtjepa_kl_y_annealing_epochs", + "50", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "50", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..05a26d029f5ea91ebb158d37e719f77529c5ef1f --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp9kzjwl9o", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp9kzjwl9o/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6337559223175049, + "lr": 0.0, + "covertype_val_accuracy": 0.739739716053009, + "covertype_val_precision": 0.7386898994445801, + "covertype_val_recall": 0.739739716053009, + "covertype_val_f1-score": 0.738264799118042, + "covertype_val_support": 999.0, + "covertype_val_score": 0.739739716053009 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.608078122138977, + "lr": 0.0, + "covertype_test_accuracy": 0.7515000104904175, + "covertype_test_precision": 0.7524077296257019, + "covertype_test_recall": 0.7515000104904175, + "covertype_test_f1-score": 0.7504755854606628, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7515000104904175 + }, + "5": { + "covertype_test_loss": 0.586347222328186, + "covertype_test_accuracy": 0.7573684453964233, + "covertype_test_precision": 0.7583817839622498, + "covertype_test_recall": 0.7573684453964233, + "covertype_test_f1-score": 0.7564933896064758, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7573684453964233 + }, + "10": { + "covertype_test_loss": 0.5697598457336426, + "covertype_test_accuracy": 0.7622222304344177, + "covertype_test_precision": 0.7635677456855774, + "covertype_test_recall": 0.7622222304344177, + "covertype_test_f1-score": 0.7609708905220032, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7622222304344177 + }, + "20": { + "covertype_test_loss": 0.5531163215637207, + "covertype_test_accuracy": 0.7681249976158142, + "covertype_test_precision": 0.7694896459579468, + "covertype_test_recall": 0.7681249976158142, + "covertype_test_f1-score": 0.7650179266929626, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7681249976158142 + }, + "50": { + "covertype_test_loss": 0.5122918486595154, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7730889320373535, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7734528183937073, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7749999761581421 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6130892634391785, + "lr": 0.00013551570009440184, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7570480704307556, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7545046806335449, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6007322669029236, + "lr": 0.0001355156855424866, + "covertype_test_accuracy": 0.7605000138282776, + "covertype_test_precision": 0.7595260143280029, + "covertype_test_recall": 0.7605000138282776, + "covertype_test_f1-score": 0.7595601081848145, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7605000138282776 + }, + "5": { + "covertype_test_loss": 0.580017626285553, + "covertype_test_accuracy": 0.7663158178329468, + "covertype_test_precision": 0.7662621140480042, + "covertype_test_recall": 0.7663158178329468, + "covertype_test_f1-score": 0.7653135061264038, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7663158178329468 + }, + "10": { + "covertype_test_loss": 0.5552664399147034, + "covertype_test_accuracy": 0.7755555510520935, + "covertype_test_precision": 0.772995114326477, + "covertype_test_recall": 0.7755555510520935, + "covertype_test_f1-score": 0.7735075950622559, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7755555510520935 + }, + "20": { + "covertype_test_loss": 0.5390188097953796, + "covertype_test_accuracy": 0.7818750143051147, + "covertype_test_precision": 0.7785090804100037, + "covertype_test_recall": 0.7818750143051147, + "covertype_test_f1-score": 0.7790670394897461, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7818750143051147 + }, + "50": { + "covertype_test_loss": 0.5113288164138794, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7873411774635315, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7877730131149292, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7900000214576721 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6038236021995544, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7637637853622437, + "covertype_val_precision": 0.7636082768440247, + "covertype_val_recall": 0.7637637853622437, + "covertype_val_f1-score": 0.7601383328437805, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7637637853622437 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6050810217857361, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7524999976158142, + "covertype_test_precision": 0.7538271546363831, + "covertype_test_recall": 0.7524999976158142, + "covertype_test_f1-score": 0.7518205046653748, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7524999976158142 + }, + "5": { + "covertype_test_loss": 0.5834690928459167, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7610979676246643, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7589195966720581, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7599999904632568 + }, + "10": { + "covertype_test_loss": 0.5621551871299744, + "covertype_test_accuracy": 0.7666666507720947, + "covertype_test_precision": 0.7662029266357422, + "covertype_test_recall": 0.7666666507720947, + "covertype_test_f1-score": 0.7651230692863464, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7666666507720947 + }, + "20": { + "covertype_test_loss": 0.5414777994155884, + "covertype_test_accuracy": 0.7737500071525574, + "covertype_test_precision": 0.7719174027442932, + "covertype_test_recall": 0.7737500071525574, + "covertype_test_f1-score": 0.7704947590827942, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7737500071525574 + }, + "50": { + "covertype_test_loss": 0.4994564950466156, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.779164731502533, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7800138592720032, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6028367877006531, + "lr": 0.0, + "covertype_val_accuracy": 0.7507507801055908, + "covertype_val_precision": 0.7494966983795166, + "covertype_val_recall": 0.7507507801055908, + "covertype_val_f1-score": 0.7479910850524902, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7507507801055908 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6105623841285706, + "lr": 0.0, + "covertype_test_accuracy": 0.7565000057220459, + "covertype_test_precision": 0.7568569779396057, + "covertype_test_recall": 0.7565000057220459, + "covertype_test_f1-score": 0.7555643320083618, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7565000057220459 + }, + "5": { + "covertype_test_loss": 0.588000476360321, + "covertype_test_accuracy": 0.7631579041481018, + "covertype_test_precision": 0.7620030641555786, + "covertype_test_recall": 0.7631579041481018, + "covertype_test_f1-score": 0.7619530558586121, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7631579041481018 + }, + "10": { + "covertype_test_loss": 0.5706995725631714, + "covertype_test_accuracy": 0.7722222208976746, + "covertype_test_precision": 0.7712127566337585, + "covertype_test_recall": 0.7722222208976746, + "covertype_test_f1-score": 0.7708246111869812, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7722222208976746 + }, + "20": { + "covertype_test_loss": 0.5575457215309143, + "covertype_test_accuracy": 0.7762500047683716, + "covertype_test_precision": 0.7743818163871765, + "covertype_test_recall": 0.7762500047683716, + "covertype_test_f1-score": 0.774299144744873, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7762500047683716 + }, + "50": { + "covertype_test_loss": 0.5203732848167419, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.7741357684135437, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.7746404409408569, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7760000228881836 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5903030037879944, + "lr": 0.0, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7520261406898499, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7521757483482361, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5888927578926086, + "lr": 0.0, + "covertype_test_accuracy": 0.7639999985694885, + "covertype_test_precision": 0.7627620697021484, + "covertype_test_recall": 0.7639999985694885, + "covertype_test_f1-score": 0.761951208114624, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7639999985694885 + }, + "5": { + "covertype_test_loss": 0.5701125860214233, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7687268853187561, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7680357694625854, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7699999809265137 + }, + "10": { + "covertype_test_loss": 0.5517857074737549, + "covertype_test_accuracy": 0.7733333110809326, + "covertype_test_precision": 0.7714906334877014, + "covertype_test_recall": 0.7733333110809326, + "covertype_test_f1-score": 0.7713850736618042, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7733333110809326 + }, + "20": { + "covertype_test_loss": 0.532741367816925, + "covertype_test_accuracy": 0.7831249833106995, + "covertype_test_precision": 0.7801221609115601, + "covertype_test_recall": 0.7831249833106995, + "covertype_test_f1-score": 0.7801048755645752, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7831249833106995 + }, + "50": { + "covertype_test_loss": 0.5025929808616638, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7830662727355957, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7838674187660217, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7860000133514404 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6026693105697631, + "std": 0.008528155510116368, + "n": 5, + "ci95": 0.010587406078125486 + }, + "lr": { + "mean": 2.73004642849628e-05, + "std": 6.0495656305931926e-05, + "n": 5, + "ci95": 7.510323639312651e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7570000052452087, + "std": 0.005291502081451461, + "n": 5, + "ci95": 0.006569214319921379 + }, + "covertype_test_precision": { + "mean": 0.7570759892463684, + "std": 0.004205046789624219, + "n": 5, + "ci95": 0.005220418165036724 + }, + "covertype_test_recall": { + "mean": 0.7570000052452087, + "std": 0.005291502081451461, + "n": 5, + "ci95": 0.006569214319921379 + }, + "covertype_test_f1-score": { + "mean": 0.7558743476867675, + "std": 0.004903811008939334, + "n": 5, + "ci95": 0.006087909445417059 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7570000052452087, + "std": 0.005291502081451461, + "n": 5, + "ci95": 0.006569214319921379 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.58158940076828, + "std": 0.007096825880415127, + "n": 5, + "ci95": 0.008810460523682466 + }, + "covertype_test_accuracy": { + "mean": 0.7633684277534485, + "std": 0.00500137691088391, + "n": 5, + "ci95": 0.00620903409212882 + }, + "covertype_test_precision": { + "mean": 0.7632943630218506, + "std": 0.004151652778691159, + "n": 5, + "ci95": 0.005154131372398198 + }, + "covertype_test_recall": { + "mean": 0.7633684277534485, + "std": 0.00500137691088391, + "n": 5, + "ci95": 0.00620903409212882 + }, + "covertype_test_f1-score": { + "mean": 0.7621430635452271, + "std": 0.00466694081831462, + "n": 5, + "ci95": 0.005793843408162935 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7633684277534485, + "std": 0.00500137691088391, + "n": 5, + "ci95": 0.00620903409212882 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5619333505630493, + "std": 0.008449441462811352, + "n": 5, + "ci95": 0.010489685348023602 + }, + "covertype_test_accuracy": { + "mean": 0.7699999928474426, + "std": 0.0054433053483835935, + "n": 5, + "ci95": 0.006757672753763263 + }, + "covertype_test_precision": { + "mean": 0.7690938353538513, + "std": 0.004010905962041678, + "n": 5, + "ci95": 0.004979399133955328 + }, + "covertype_test_recall": { + "mean": 0.7699999928474426, + "std": 0.0054433053483835935, + "n": 5, + "ci95": 0.006757672753763263 + }, + "covertype_test_f1-score": { + "mean": 0.7683622479438782, + "std": 0.005167198175603805, + "n": 5, + "ci95": 0.006414895378768739 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7699999928474426, + "std": 0.0054433053483835935, + "n": 5, + "ci95": 0.006757672753763263 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5447800040245057, + "std": 0.010265018382002451, + "n": 5, + "ci95": 0.01274366044108401 + }, + "covertype_test_accuracy": { + "mean": 0.7766250014305115, + "std": 0.006133283767098691, + "n": 5, + "ci95": 0.007614256770719112 + }, + "covertype_test_precision": { + "mean": 0.774884021282196, + "std": 0.004436538090158102, + "n": 5, + "ci95": 0.0055078064988210084 + }, + "covertype_test_recall": { + "mean": 0.7766250014305115, + "std": 0.006133283767098691, + "n": 5, + "ci95": 0.007614256770719112 + }, + "covertype_test_f1-score": { + "mean": 0.7737967491149902, + "std": 0.006240826920315515, + "n": 5, + "ci95": 0.007747767825093992 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7766250014305115, + "std": 0.006133283767098691, + "n": 5, + "ci95": 0.007614256770719112 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5092086851596832, + "std": 0.008329494200795729, + "n": 5, + "ci95": 0.010340775027449322 + }, + "covertype_test_accuracy": { + "mean": 0.7818000078201294, + "std": 0.006418732836467734, + "n": 5, + "ci95": 0.007968631782812652 + }, + "covertype_test_precision": { + "mean": 0.7793593764305115, + "std": 0.006001930276960288, + "n": 5, + "ci95": 0.007451186017820124 + }, + "covertype_test_recall": { + "mean": 0.7818000078201294, + "std": 0.006418732836467734, + "n": 5, + "ci95": 0.007968631782812652 + }, + "covertype_test_f1-score": { + "mean": 0.7799495100975037, + "std": 0.006061240941816467, + "n": 5, + "ci95": 0.00752481812887287 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7818000078201294, + "std": 0.006418732836467734, + "n": 5, + "ci95": 0.007968631782812652 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..559daa9dbd07ab199ec664aad2a4a232bed5ef1c --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpswyr6ti9", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpswyr6ti9/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.566579282283783, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7747747898101807, + "covertype_val_precision": 0.767947793006897, + "covertype_val_recall": 0.7747747898101807, + "covertype_val_f1-score": 0.7706944346427917, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7747747898101807 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5499430894851685, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7825000286102295, + "covertype_test_precision": 0.781561553478241, + "covertype_test_recall": 0.7825000286102295, + "covertype_test_f1-score": 0.7809481024742126, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7825000286102295 + }, + "5": { + "covertype_test_loss": 0.5298239588737488, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7873427271842957, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7880867719650269, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7900000214576721 + }, + "10": { + "covertype_test_loss": 0.5064030885696411, + "covertype_test_accuracy": 0.7955555319786072, + "covertype_test_precision": 0.79276043176651, + "covertype_test_recall": 0.7955555319786072, + "covertype_test_f1-score": 0.7935331463813782, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7955555319786072 + }, + "20": { + "covertype_test_loss": 0.49464932084083557, + "covertype_test_accuracy": 0.7987499833106995, + "covertype_test_precision": 0.7959330081939697, + "covertype_test_recall": 0.7987499833106995, + "covertype_test_f1-score": 0.7964814305305481, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7987499833106995 + }, + "50": { + "covertype_test_loss": 0.4676465094089508, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.8004546165466309, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.8007848262786865, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5770115852355957, + "lr": 1.5708421415183693e-05, + "covertype_val_accuracy": 0.7787787914276123, + "covertype_val_precision": 0.7721949219703674, + "covertype_val_recall": 0.7787787914276123, + "covertype_val_f1-score": 0.7743314504623413, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7787787914276123 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5919480323791504, + "lr": 1.5708415958215483e-05, + "covertype_test_accuracy": 0.7925000190734863, + "covertype_test_precision": 0.7914188504219055, + "covertype_test_recall": 0.7925000190734863, + "covertype_test_f1-score": 0.7911021113395691, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7925000190734863 + }, + "5": { + "covertype_test_loss": 0.5736187696456909, + "covertype_test_accuracy": 0.7984210252761841, + "covertype_test_precision": 0.7960700392723083, + "covertype_test_recall": 0.7984210252761841, + "covertype_test_f1-score": 0.7968772649765015, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7984210252761841 + }, + "10": { + "covertype_test_loss": 0.529783308506012, + "covertype_test_accuracy": 0.8055555820465088, + "covertype_test_precision": 0.8036574721336365, + "covertype_test_recall": 0.8055555820465088, + "covertype_test_f1-score": 0.803870677947998, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8055555820465088 + }, + "20": { + "covertype_test_loss": 0.5120231509208679, + "covertype_test_accuracy": 0.8118749856948853, + "covertype_test_precision": 0.8105306029319763, + "covertype_test_recall": 0.8118749856948853, + "covertype_test_f1-score": 0.8093944191932678, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8118749856948853 + }, + "50": { + "covertype_test_loss": 0.49811622500419617, + "covertype_test_accuracy": 0.8220000267028809, + "covertype_test_precision": 0.821172297000885, + "covertype_test_recall": 0.8220000267028809, + "covertype_test_f1-score": 0.8205459117889404, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8220000267028809 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5710269212722778, + "lr": 0.0, + "covertype_val_accuracy": 0.7667667865753174, + "covertype_val_precision": 0.760129988193512, + "covertype_val_recall": 0.7667667865753174, + "covertype_val_f1-score": 0.7626182436943054, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7667667865753174 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6268402934074402, + "lr": 0.0, + "covertype_test_accuracy": 0.7829999923706055, + "covertype_test_precision": 0.7822844982147217, + "covertype_test_recall": 0.7829999923706055, + "covertype_test_f1-score": 0.7813370227813721, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7829999923706055 + }, + "5": { + "covertype_test_loss": 0.6100488305091858, + "covertype_test_accuracy": 0.7910526394844055, + "covertype_test_precision": 0.7885105609893799, + "covertype_test_recall": 0.7910526394844055, + "covertype_test_f1-score": 0.7893380522727966, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7910526394844055 + }, + "10": { + "covertype_test_loss": 0.5549637675285339, + "covertype_test_accuracy": 0.7977777719497681, + "covertype_test_precision": 0.795049786567688, + "covertype_test_recall": 0.7977777719497681, + "covertype_test_f1-score": 0.795979917049408, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7977777719497681 + }, + "20": { + "covertype_test_loss": 0.538516104221344, + "covertype_test_accuracy": 0.8056250214576721, + "covertype_test_precision": 0.8031936883926392, + "covertype_test_recall": 0.8056250214576721, + "covertype_test_f1-score": 0.8034586906433105, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8056250214576721 + }, + "50": { + "covertype_test_loss": 0.5134701132774353, + "covertype_test_accuracy": 0.8140000104904175, + "covertype_test_precision": 0.8119080066680908, + "covertype_test_recall": 0.8140000104904175, + "covertype_test_f1-score": 0.8117285370826721, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8140000104904175 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5790405869483948, + "lr": 4.758647264679894e-05, + "covertype_val_accuracy": 0.7667667865753174, + "covertype_val_precision": 0.761182963848114, + "covertype_val_recall": 0.7667667865753174, + "covertype_val_f1-score": 0.761326014995575, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7667667865753174 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5750860571861267, + "lr": 4.758647264679894e-05, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7852953672409058, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7844951152801514, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7860000133514404 + }, + "5": { + "covertype_test_loss": 0.5594121813774109, + "covertype_test_accuracy": 0.7942105531692505, + "covertype_test_precision": 0.7925773859024048, + "covertype_test_recall": 0.7942105531692505, + "covertype_test_f1-score": 0.7925464510917664, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7942105531692505 + }, + "10": { + "covertype_test_loss": 0.5329056978225708, + "covertype_test_accuracy": 0.8027777671813965, + "covertype_test_precision": 0.801494300365448, + "covertype_test_recall": 0.8027777671813965, + "covertype_test_f1-score": 0.8009545207023621, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8027777671813965 + }, + "20": { + "covertype_test_loss": 0.5203230977058411, + "covertype_test_accuracy": 0.8037499785423279, + "covertype_test_precision": 0.8025290369987488, + "covertype_test_recall": 0.8037499785423279, + "covertype_test_f1-score": 0.8017565011978149, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8037499785423279 + }, + "50": { + "covertype_test_loss": 0.49255862832069397, + "covertype_test_accuracy": 0.8090000152587891, + "covertype_test_precision": 0.8081725835800171, + "covertype_test_recall": 0.8090000152587891, + "covertype_test_f1-score": 0.8075345158576965, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8090000152587891 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5726443529129028, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7737737894058228, + "covertype_val_precision": 0.7665093541145325, + "covertype_val_recall": 0.7737737894058228, + "covertype_val_f1-score": 0.7689670920372009, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7737737894058228 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5516089200973511, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7862091660499573, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.7851707339286804, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5373331904411316, + "covertype_test_accuracy": 0.7942105531692505, + "covertype_test_precision": 0.792421281337738, + "covertype_test_recall": 0.7942105531692505, + "covertype_test_f1-score": 0.7926676273345947, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7942105531692505 + }, + "10": { + "covertype_test_loss": 0.5156571865081787, + "covertype_test_accuracy": 0.8005555272102356, + "covertype_test_precision": 0.799028754234314, + "covertype_test_recall": 0.8005555272102356, + "covertype_test_f1-score": 0.7989643812179565, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8005555272102356 + }, + "20": { + "covertype_test_loss": 0.5066438317298889, + "covertype_test_accuracy": 0.8043749928474426, + "covertype_test_precision": 0.8029533624649048, + "covertype_test_recall": 0.8043749928474426, + "covertype_test_f1-score": 0.8020572662353516, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8043749928474426 + }, + "50": { + "covertype_test_loss": 0.48933321237564087, + "covertype_test_accuracy": 0.8119999766349792, + "covertype_test_precision": 0.8086027503013611, + "covertype_test_recall": 0.8119999766349792, + "covertype_test_f1-score": 0.80925452709198, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8119999766349792 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5790852785110474, + "std": 0.031883393439727195, + "n": 5, + "ci95": 0.039582115158970387 + }, + "lr": { + "mean": 1.4627579662374047e-05, + "std": 1.9498750502721044e-05, + "n": 5, + "ci95": 2.4207015144537887e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7861000061035156, + "std": 0.003990616007276953, + "n": 5, + "ci95": 0.004954209866458258 + }, + "covertype_test_precision": { + "mean": 0.7853538870811463, + "std": 0.003915407040781384, + "n": 5, + "ci95": 0.004860840571297051 + }, + "covertype_test_recall": { + "mean": 0.7861000061035156, + "std": 0.003990616007276953, + "n": 5, + "ci95": 0.004954209866458258 + }, + "covertype_test_f1-score": { + "mean": 0.7846106171607972, + "std": 0.004080349315364353, + "n": 5, + "ci95": 0.005065610622498398 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7861000061035156, + "std": 0.003990616007276953, + "n": 5, + "ci95": 0.004954209866458258 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5620473861694336, + "std": 0.031992657812887064, + "n": 5, + "ci95": 0.0397177630475605 + }, + "covertype_test_accuracy": { + "mean": 0.7935789585113525, + "std": 0.0032952432550184324, + "n": 5, + "ci95": 0.004090928973527607 + }, + "covertype_test_precision": { + "mean": 0.7913843989372253, + "std": 0.0035017004251593313, + "n": 5, + "ci95": 0.004347238312097879 + }, + "covertype_test_recall": { + "mean": 0.7935789585113525, + "std": 0.0032952432550184324, + "n": 5, + "ci95": 0.004090928973527607 + }, + "covertype_test_f1-score": { + "mean": 0.7919032335281372, + "std": 0.003423614658160204, + "n": 5, + "ci95": 0.004250297569968943 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7935789585113525, + "std": 0.0032952432550184324, + "n": 5, + "ci95": 0.004090928973527607 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5279426097869873, + "std": 0.018527317532016845, + "n": 5, + "ci95": 0.02300101516877234 + }, + "covertype_test_accuracy": { + "mean": 0.8004444360733032, + "std": 0.003955789088633309, + "n": 5, + "ci95": 0.004910973467955358 + }, + "covertype_test_precision": { + "mean": 0.7983981490135192, + "std": 0.004489980029082031, + "n": 5, + "ci95": 0.005574152792379896 + }, + "covertype_test_recall": { + "mean": 0.8004444360733032, + "std": 0.003955789088633309, + "n": 5, + "ci95": 0.004910973467955358 + }, + "covertype_test_f1-score": { + "mean": 0.7986605286598205, + "std": 0.004061283944413077, + "n": 5, + "ci95": 0.005041941632873172 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8004444360733032, + "std": 0.003955789088633309, + "n": 5, + "ci95": 0.004910973467955358 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5144311010837554, + "std": 0.016374993266320085, + "n": 5, + "ci95": 0.020328980051014047 + }, + "covertype_test_accuracy": { + "mean": 0.8048749923706054, + "std": 0.004706215087315844, + "n": 5, + "ci95": 0.005842601036215596 + }, + "covertype_test_precision": { + "mean": 0.8030279397964477, + "std": 0.005169863318941132, + "n": 5, + "ci95": 0.006418204060785058 + }, + "covertype_test_recall": { + "mean": 0.8048749923706054, + "std": 0.004706215087315844, + "n": 5, + "ci95": 0.005842601036215596 + }, + "covertype_test_f1-score": { + "mean": 0.8026296615600585, + "std": 0.0046189832559535154, + "n": 5, + "ci95": 0.005734305775830629 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8048749923706054, + "std": 0.004706215087315844, + "n": 5, + "ci95": 0.005842601036215596 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4922249376773834, + "std": 0.016572849132366792, + "n": 5, + "ci95": 0.02057461117210357 + }, + "covertype_test_accuracy": { + "mean": 0.8120000004768372, + "std": 0.006964211461477925, + "n": 5, + "ci95": 0.008645824371886535 + }, + "covertype_test_precision": { + "mean": 0.810062050819397, + "std": 0.007497458918939588, + "n": 5, + "ci95": 0.00930783239526011 + }, + "covertype_test_recall": { + "mean": 0.8120000004768372, + "std": 0.006964211461477925, + "n": 5, + "ci95": 0.008645824371886535 + }, + "covertype_test_f1-score": { + "mean": 0.8099696636199951, + "std": 0.00717205101510465, + "n": 5, + "ci95": 0.008903849891089628 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8120000004768372, + "std": 0.006964211461477925, + "n": 5, + "ci95": 0.008645824371886535 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..a5d6d5865525cd3b51b434e0dbf96292ee547c8d --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpmgt2xerl", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpmgt2xerl/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5919095277786255, + "lr": 0.0, + "covertype_val_accuracy": 0.7637637853622437, + "covertype_val_precision": 0.7643371820449829, + "covertype_val_recall": 0.7637637853622437, + "covertype_val_f1-score": 0.7571712732315063, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7637637853622437 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5622827410697937, + "lr": 0.0, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7627077698707581, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7577918171882629, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7620000243186951 + }, + "5": { + "covertype_test_loss": 0.543694794178009, + "covertype_test_accuracy": 0.769473671913147, + "covertype_test_precision": 0.7700231075286865, + "covertype_test_recall": 0.769473671913147, + "covertype_test_f1-score": 0.7666025161743164, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.769473671913147 + }, + "10": { + "covertype_test_loss": 0.5279879570007324, + "covertype_test_accuracy": 0.7744444608688354, + "covertype_test_precision": 0.7734609842300415, + "covertype_test_recall": 0.7744444608688354, + "covertype_test_f1-score": 0.7706978917121887, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7744444608688354 + }, + "20": { + "covertype_test_loss": 0.5130640268325806, + "covertype_test_accuracy": 0.7806249856948853, + "covertype_test_precision": 0.7809479236602783, + "covertype_test_recall": 0.7806249856948853, + "covertype_test_f1-score": 0.7772548794746399, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7806249856948853 + }, + "50": { + "covertype_test_loss": 0.4916897416114807, + "covertype_test_accuracy": 0.7889999747276306, + "covertype_test_precision": 0.7867684960365295, + "covertype_test_recall": 0.7889999747276306, + "covertype_test_f1-score": 0.7867187857627869, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7889999747276306 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5947666764259338, + "lr": 0.0, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7517040371894836, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7494445443153381, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5815932750701904, + "lr": 0.0, + "covertype_test_accuracy": 0.7505000233650208, + "covertype_test_precision": 0.7515413761138916, + "covertype_test_recall": 0.7505000233650208, + "covertype_test_f1-score": 0.7461934089660645, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7505000233650208 + }, + "5": { + "covertype_test_loss": 0.561854898929596, + "covertype_test_accuracy": 0.7605262994766235, + "covertype_test_precision": 0.7593101263046265, + "covertype_test_recall": 0.7605262994766235, + "covertype_test_f1-score": 0.7570054531097412, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7605262994766235 + }, + "10": { + "covertype_test_loss": 0.5432558655738831, + "covertype_test_accuracy": 0.7666666507720947, + "covertype_test_precision": 0.7658780217170715, + "covertype_test_recall": 0.7666666507720947, + "covertype_test_f1-score": 0.7632671594619751, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7666666507720947 + }, + "20": { + "covertype_test_loss": 0.526597797870636, + "covertype_test_accuracy": 0.7724999785423279, + "covertype_test_precision": 0.7722132205963135, + "covertype_test_recall": 0.7724999785423279, + "covertype_test_f1-score": 0.7689595222473145, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7724999785423279 + }, + "50": { + "covertype_test_loss": 0.5028709769248962, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.778876781463623, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7787975668907166, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5674455761909485, + "lr": 0.0, + "covertype_val_accuracy": 0.7657657861709595, + "covertype_val_precision": 0.7596773505210876, + "covertype_val_recall": 0.7657657861709595, + "covertype_val_f1-score": 0.7598035931587219, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7657657861709595 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5629334449768066, + "lr": 0.0, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7617148160934448, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7597728371620178, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7620000243186951 + }, + "5": { + "covertype_test_loss": 0.5438519716262817, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7700448632240295, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7685636878013611, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7699999809265137 + }, + "10": { + "covertype_test_loss": 0.5235005617141724, + "covertype_test_accuracy": 0.7766666412353516, + "covertype_test_precision": 0.7752777338027954, + "covertype_test_recall": 0.7766666412353516, + "covertype_test_f1-score": 0.7748569846153259, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7766666412353516 + }, + "20": { + "covertype_test_loss": 0.5039783120155334, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7826541662216187, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7823237776756287, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7850000262260437 + }, + "50": { + "covertype_test_loss": 0.4844210147857666, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7836217880249023, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7834427356719971, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5987330079078674, + "lr": 0.0, + "covertype_val_accuracy": 0.7517517805099487, + "covertype_val_precision": 0.7453422546386719, + "covertype_val_recall": 0.7517517805099487, + "covertype_val_f1-score": 0.7456240653991699, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7517517805099487 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5685456991195679, + "lr": 0.0, + "covertype_test_accuracy": 0.762499988079071, + "covertype_test_precision": 0.7625160813331604, + "covertype_test_recall": 0.762499988079071, + "covertype_test_f1-score": 0.7591844797134399, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.762499988079071 + }, + "5": { + "covertype_test_loss": 0.5487877130508423, + "covertype_test_accuracy": 0.7731578946113586, + "covertype_test_precision": 0.7715889811515808, + "covertype_test_recall": 0.7731578946113586, + "covertype_test_f1-score": 0.7706120014190674, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7731578946113586 + }, + "10": { + "covertype_test_loss": 0.5264748930931091, + "covertype_test_accuracy": 0.7794444561004639, + "covertype_test_precision": 0.7781596183776855, + "covertype_test_recall": 0.7794444561004639, + "covertype_test_f1-score": 0.7770690321922302, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7794444561004639 + }, + "20": { + "covertype_test_loss": 0.5142471194267273, + "covertype_test_accuracy": 0.7856249809265137, + "covertype_test_precision": 0.7853473424911499, + "covertype_test_recall": 0.7856249809265137, + "covertype_test_f1-score": 0.7835682034492493, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7856249809265137 + }, + "50": { + "covertype_test_loss": 0.48207616806030273, + "covertype_test_accuracy": 0.8059999942779541, + "covertype_test_precision": 0.8040633797645569, + "covertype_test_recall": 0.8059999942779541, + "covertype_test_f1-score": 0.8046655654907227, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8059999942779541 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5846267342567444, + "lr": 0.0, + "covertype_val_accuracy": 0.7447447180747986, + "covertype_val_precision": 0.7434242963790894, + "covertype_val_recall": 0.7447447180747986, + "covertype_val_f1-score": 0.740528404712677, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7447447180747986 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5966698527336121, + "lr": 0.0, + "covertype_test_accuracy": 0.7404999732971191, + "covertype_test_precision": 0.745367705821991, + "covertype_test_recall": 0.7404999732971191, + "covertype_test_f1-score": 0.7372013926506042, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7404999732971191 + }, + "5": { + "covertype_test_loss": 0.5777494311332703, + "covertype_test_accuracy": 0.7478947639465332, + "covertype_test_precision": 0.7491984963417053, + "covertype_test_recall": 0.7478947639465332, + "covertype_test_f1-score": 0.7452319264411926, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7478947639465332 + }, + "10": { + "covertype_test_loss": 0.5575999021530151, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7557528018951416, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7521636486053467, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7549999952316284 + }, + "20": { + "covertype_test_loss": 0.5435064435005188, + "covertype_test_accuracy": 0.7593749761581421, + "covertype_test_precision": 0.7600075602531433, + "covertype_test_recall": 0.7593749761581421, + "covertype_test_f1-score": 0.7564142346382141, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7593749761581421 + }, + "50": { + "covertype_test_loss": 0.5071709156036377, + "covertype_test_accuracy": 0.7689999938011169, + "covertype_test_precision": 0.7699766755104065, + "covertype_test_recall": 0.7689999938011169, + "covertype_test_f1-score": 0.7679826021194458, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7689999938011169 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5744050025939942, + "std": 0.014665197823100374, + "n": 5, + "ci95": 0.01820632895179076 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7555000066757203, + "std": 0.009791591198978409, + "n": 5, + "ci95": 0.012155917191192196 + }, + "covertype_test_precision": { + "mean": 0.7567695498466491, + "std": 0.007906905007245554, + "n": 5, + "ci95": 0.009816145359165727 + }, + "covertype_test_recall": { + "mean": 0.7555000066757203, + "std": 0.009791591198978409, + "n": 5, + "ci95": 0.012155917191192196 + }, + "covertype_test_f1-score": { + "mean": 0.7520287871360779, + "std": 0.009978602458051005, + "n": 5, + "ci95": 0.01238808511292327 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7555000066757203, + "std": 0.009791591198978409, + "n": 5, + "ci95": 0.012155917191192196 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5551877617835999, + "std": 0.014620436965280485, + "n": 5, + "ci95": 0.018150759916073452 + }, + "covertype_test_accuracy": { + "mean": 0.7642105221748352, + "std": 0.010259769914300705, + "n": 5, + "ci95": 0.012737144652437754 + }, + "covertype_test_precision": { + "mean": 0.7640331149101257, + "std": 0.009636970134034584, + "n": 5, + "ci95": 0.011963960559907671 + }, + "covertype_test_recall": { + "mean": 0.7642105221748352, + "std": 0.010259769914300705, + "n": 5, + "ci95": 0.012737144652437754 + }, + "covertype_test_f1-score": { + "mean": 0.7616031169891357, + "std": 0.010532781328091887, + "n": 5, + "ci95": 0.013076078751181804 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7642105221748352, + "std": 0.010259769914300705, + "n": 5, + "ci95": 0.012737144652437754 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5357638359069824, + "std": 0.014405562666232111, + "n": 5, + "ci95": 0.017884001007059766 + }, + "covertype_test_accuracy": { + "mean": 0.7704444408416748, + "std": 0.009855440256866918, + "n": 5, + "ci95": 0.012235183558083548 + }, + "covertype_test_precision": { + "mean": 0.7697058320045471, + "std": 0.0090270834542434, + "n": 5, + "ci95": 0.011206807628898228 + }, + "covertype_test_recall": { + "mean": 0.7704444408416748, + "std": 0.009855440256866918, + "n": 5, + "ci95": 0.012235183558083548 + }, + "covertype_test_f1-score": { + "mean": 0.7676109433174133, + "std": 0.010111592136642039, + "n": 5, + "ci95": 0.012553187136423243 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7704444408416748, + "std": 0.009855440256866918, + "n": 5, + "ci95": 0.012235183558083548 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5202787399291993, + "std": 0.015277378600281055, + "n": 5, + "ci95": 0.018966329924280753 + }, + "covertype_test_accuracy": { + "mean": 0.7766249895095825, + "std": 0.01097405726126609, + "n": 5, + "ci95": 0.013623907351572243 + }, + "covertype_test_precision": { + "mean": 0.7762340426445007, + "std": 0.010319358456458556, + "n": 5, + "ci95": 0.012811121738418457 + }, + "covertype_test_recall": { + "mean": 0.7766249895095825, + "std": 0.01097405726126609, + "n": 5, + "ci95": 0.013623907351572243 + }, + "covertype_test_f1-score": { + "mean": 0.7737041234970092, + "std": 0.011243418933357726, + "n": 5, + "ci95": 0.013958310423952206 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7766249895095825, + "std": 0.01097405726126609, + "n": 5, + "ci95": 0.013623907351572243 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4936457633972168, + "std": 0.011077136941340056, + "n": 5, + "ci95": 0.013751877160524688 + }, + "covertype_test_accuracy": { + "mean": 0.7857999920845031, + "std": 0.013553598279493415, + "n": 5, + "ci95": 0.016826317089851196 + }, + "covertype_test_precision": { + "mean": 0.7846614241600036, + "std": 0.012560457898639129, + "n": 5, + "ci95": 0.015593368125422072 + }, + "covertype_test_recall": { + "mean": 0.7857999920845031, + "std": 0.013553598279493415, + "n": 5, + "ci95": 0.016826317089851196 + }, + "covertype_test_f1-score": { + "mean": 0.7843214511871338, + "std": 0.013396581909189994, + "n": 5, + "ci95": 0.016631386770939487 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7857999920845031, + "std": 0.013553598279493415, + "n": 5, + "ci95": 0.016826317089851196 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..9439effe512eb71188cbeec55ecea3077ac32ea1 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpvd6ydf5e", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpvd6ydf5e/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6269020438194275, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7337337136268616, + "covertype_val_precision": 0.719119131565094, + "covertype_val_recall": 0.7337337136268616, + "covertype_val_f1-score": 0.7246836423873901, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7337337136268616 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6412132382392883, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7239999771118164, + "covertype_test_precision": 0.7107347846031189, + "covertype_test_recall": 0.7239999771118164, + "covertype_test_f1-score": 0.7143660187721252, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7239999771118164 + }, + "5": { + "covertype_test_loss": 0.6163803339004517, + "covertype_test_accuracy": 0.730526328086853, + "covertype_test_precision": 0.7180781364440918, + "covertype_test_recall": 0.730526328086853, + "covertype_test_f1-score": 0.7213032245635986, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.730526328086853 + }, + "10": { + "covertype_test_loss": 0.5931499600410461, + "covertype_test_accuracy": 0.7377777695655823, + "covertype_test_precision": 0.7253180146217346, + "covertype_test_recall": 0.7377777695655823, + "covertype_test_f1-score": 0.7277591228485107, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7377777695655823 + }, + "20": { + "covertype_test_loss": 0.576765239238739, + "covertype_test_accuracy": 0.7443749904632568, + "covertype_test_precision": 0.7335765957832336, + "covertype_test_recall": 0.7443749904632568, + "covertype_test_f1-score": 0.73274165391922, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7443749904632568 + }, + "50": { + "covertype_test_loss": 0.5390468835830688, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.743056058883667, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.7378482818603516, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.75 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.7019075751304626, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6776776909828186, + "covertype_val_precision": 0.6662452816963196, + "covertype_val_recall": 0.6776776909828186, + "covertype_val_f1-score": 0.6365422606468201, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6776776909828186 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7209858894348145, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6800000071525574, + "covertype_test_precision": 0.6768921613693237, + "covertype_test_recall": 0.6800000071525574, + "covertype_test_f1-score": 0.6389293670654297, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6800000071525574 + }, + "5": { + "covertype_test_loss": 0.7016462087631226, + "covertype_test_accuracy": 0.6852631568908691, + "covertype_test_precision": 0.6912922263145447, + "covertype_test_recall": 0.6852631568908691, + "covertype_test_f1-score": 0.6474104523658752, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6852631568908691 + }, + "10": { + "covertype_test_loss": 0.6847428679466248, + "covertype_test_accuracy": 0.6905555725097656, + "covertype_test_precision": 0.7043699026107788, + "covertype_test_recall": 0.6905555725097656, + "covertype_test_f1-score": 0.6544225811958313, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6905555725097656 + }, + "20": { + "covertype_test_loss": 0.6748308539390564, + "covertype_test_accuracy": 0.6918749809265137, + "covertype_test_precision": 0.7095270752906799, + "covertype_test_recall": 0.6918749809265137, + "covertype_test_f1-score": 0.6551176905632019, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6918749809265137 + }, + "50": { + "covertype_test_loss": 0.6580103039741516, + "covertype_test_accuracy": 0.6880000233650208, + "covertype_test_precision": 0.7354090213775635, + "covertype_test_recall": 0.6880000233650208, + "covertype_test_f1-score": 0.6474209427833557, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6880000233650208 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6565462946891785, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7317317128181458, + "covertype_val_precision": 0.7432336211204529, + "covertype_val_recall": 0.7317317128181458, + "covertype_val_f1-score": 0.7170817255973816, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7317317128181458 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6469249725341797, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7164999842643738, + "covertype_test_precision": 0.712401807308197, + "covertype_test_recall": 0.7164999842643738, + "covertype_test_f1-score": 0.7035239338874817, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7164999842643738 + }, + "5": { + "covertype_test_loss": 0.6245378255844116, + "covertype_test_accuracy": 0.7273684144020081, + "covertype_test_precision": 0.719466507434845, + "covertype_test_recall": 0.7273684144020081, + "covertype_test_f1-score": 0.7180035710334778, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7273684144020081 + }, + "10": { + "covertype_test_loss": 0.6053399443626404, + "covertype_test_accuracy": 0.7344444394111633, + "covertype_test_precision": 0.7234750390052795, + "covertype_test_recall": 0.7344444394111633, + "covertype_test_f1-score": 0.726798415184021, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7344444394111633 + }, + "20": { + "covertype_test_loss": 0.59145188331604, + "covertype_test_accuracy": 0.7393749952316284, + "covertype_test_precision": 0.7281044721603394, + "covertype_test_recall": 0.7393749952316284, + "covertype_test_f1-score": 0.7316889762878418, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7393749952316284 + }, + "50": { + "covertype_test_loss": 0.5500497221946716, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7425121068954468, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7481483817100525, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7549999952316284 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6810799837112427, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7197197079658508, + "covertype_val_precision": 0.7080172300338745, + "covertype_val_recall": 0.7197197079658508, + "covertype_val_f1-score": 0.7014836668968201, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7197197079658508 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6790041923522949, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.703499972820282, + "covertype_test_precision": 0.6948391199111938, + "covertype_test_recall": 0.703499972820282, + "covertype_test_f1-score": 0.6868710517883301, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.703499972820282 + }, + "5": { + "covertype_test_loss": 0.6646469831466675, + "covertype_test_accuracy": 0.7121052742004395, + "covertype_test_precision": 0.7075797915458679, + "covertype_test_recall": 0.7121052742004395, + "covertype_test_f1-score": 0.6992347836494446, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7121052742004395 + }, + "10": { + "covertype_test_loss": 0.6485580801963806, + "covertype_test_accuracy": 0.7177777886390686, + "covertype_test_precision": 0.7193371057510376, + "covertype_test_recall": 0.7177777886390686, + "covertype_test_f1-score": 0.7082239389419556, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7177777886390686 + }, + "20": { + "covertype_test_loss": 0.6330507397651672, + "covertype_test_accuracy": 0.7256249785423279, + "covertype_test_precision": 0.7281617522239685, + "covertype_test_recall": 0.7256249785423279, + "covertype_test_f1-score": 0.7173073291778564, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7256249785423279 + }, + "50": { + "covertype_test_loss": 0.575686514377594, + "covertype_test_accuracy": 0.7450000047683716, + "covertype_test_precision": 0.7437982559204102, + "covertype_test_recall": 0.7450000047683716, + "covertype_test_f1-score": 0.7381882667541504, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7450000047683716 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6306928992271423, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.739739716053009, + "covertype_val_precision": 0.734819769859314, + "covertype_val_recall": 0.739739716053009, + "covertype_val_f1-score": 0.7254675030708313, + "covertype_val_support": 999.0, + "covertype_val_score": 0.739739716053009 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6214721202850342, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7254999876022339, + "covertype_test_precision": 0.7379052042961121, + "covertype_test_recall": 0.7254999876022339, + "covertype_test_f1-score": 0.7127796411514282, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7254999876022339 + }, + "5": { + "covertype_test_loss": 0.6048352718353271, + "covertype_test_accuracy": 0.7342105507850647, + "covertype_test_precision": 0.7416560649871826, + "covertype_test_recall": 0.7342105507850647, + "covertype_test_f1-score": 0.7239148616790771, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7342105507850647 + }, + "10": { + "covertype_test_loss": 0.5895002484321594, + "covertype_test_accuracy": 0.7394444346427917, + "covertype_test_precision": 0.7458459138870239, + "covertype_test_recall": 0.7394444346427917, + "covertype_test_f1-score": 0.7323120832443237, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7394444346427917 + }, + "20": { + "covertype_test_loss": 0.5755006670951843, + "covertype_test_accuracy": 0.746874988079071, + "covertype_test_precision": 0.7522966265678406, + "covertype_test_recall": 0.746874988079071, + "covertype_test_f1-score": 0.7395651340484619, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.746874988079071 + }, + "50": { + "covertype_test_loss": 0.5392422676086426, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7511760592460632, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7564592957496643, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7620000243186951 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6619200825691223, + "std": 0.038956067331590884, + "n": 5, + "ci95": 0.048362591835608204 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7098999857902527, + "std": 0.018846078373303682, + "n": 5, + "ci95": 0.023396745577828004 + }, + "covertype_test_precision": { + "mean": 0.7065546154975891, + "std": 0.022647499340883274, + "n": 5, + "ci95": 0.028116076435470476 + }, + "covertype_test_recall": { + "mean": 0.7098999857902527, + "std": 0.018846078373303682, + "n": 5, + "ci95": 0.023396745577828004 + }, + "covertype_test_f1-score": { + "mean": 0.691294002532959, + "std": 0.031245557132401985, + "n": 5, + "ci95": 0.03879026374526043 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7098999857902527, + "std": 0.018846078373303682, + "n": 5, + "ci95": 0.023396745577828004 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6424093246459961, + "std": 0.04003820106491157, + "n": 5, + "ci95": 0.04970602292711602 + }, + "covertype_test_accuracy": { + "mean": 0.7178947448730468, + "std": 0.020086384295695807, + "n": 5, + "ci95": 0.0249365418967263 + }, + "covertype_test_precision": { + "mean": 0.7156145453453064, + "std": 0.018406521330436305, + "n": 5, + "ci95": 0.0228510509194911 + }, + "covertype_test_recall": { + "mean": 0.7178947448730468, + "std": 0.020086384295695807, + "n": 5, + "ci95": 0.0249365418967263 + }, + "covertype_test_f1-score": { + "mean": 0.7019733786582947, + "std": 0.03200254488190726, + "n": 5, + "ci95": 0.03973003749711939 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7178947448730468, + "std": 0.020086384295695807, + "n": 5, + "ci95": 0.0249365418967263 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6242582201957703, + "std": 0.04117832385207829, + "n": 5, + "ci95": 0.05112144539594171 + }, + "covertype_test_accuracy": { + "mean": 0.7240000009536743, + "std": 0.02058330303073863, + "n": 5, + "ci95": 0.025553449084861648 + }, + "covertype_test_precision": { + "mean": 0.7236691951751709, + "std": 0.014881136106452132, + "n": 5, + "ci95": 0.01847440876001499 + }, + "covertype_test_recall": { + "mean": 0.7240000009536743, + "std": 0.02058330303073863, + "n": 5, + "ci95": 0.025553449084861648 + }, + "covertype_test_f1-score": { + "mean": 0.7099032282829285, + "std": 0.032354904209928585, + "n": 5, + "ci95": 0.04016747924953019 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7240000009536743, + "std": 0.02058330303073863, + "n": 5, + "ci95": 0.025553449084861648 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6103198766708374, + "std": 0.042932070026448006, + "n": 5, + "ci95": 0.05329865978702379 + }, + "covertype_test_accuracy": { + "mean": 0.7296249866485596, + "std": 0.022645368324011456, + "n": 5, + "ci95": 0.028113430852735204 + }, + "covertype_test_precision": { + "mean": 0.7303333044052124, + "std": 0.015292882015828561, + "n": 5, + "ci95": 0.01898557687115041 + }, + "covertype_test_recall": { + "mean": 0.7296249866485596, + "std": 0.022645368324011456, + "n": 5, + "ci95": 0.028113430852735204 + }, + "covertype_test_f1-score": { + "mean": 0.7152841567993165, + "std": 0.0345960440301014, + "n": 5, + "ci95": 0.04294977576439556 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7296249866485596, + "std": 0.022645368324011456, + "n": 5, + "ci95": 0.028113430852735204 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5724071383476257, + "std": 0.05012814972287109, + "n": 5, + "ci95": 0.062232340443551304 + }, + "covertype_test_accuracy": { + "mean": 0.7400000095367432, + "std": 0.02974053859924918, + "n": 5, + "ci95": 0.036921836000633604 + }, + "covertype_test_precision": { + "mean": 0.7431903004646301, + "std": 0.005593930297688974, + "n": 5, + "ci95": 0.006944668347582045 + }, + "covertype_test_recall": { + "mean": 0.7400000095367432, + "std": 0.02974053859924918, + "n": 5, + "ci95": 0.036921836000633604 + }, + "covertype_test_f1-score": { + "mean": 0.7256130337715149, + "std": 0.044387990093602704, + "n": 5, + "ci95": 0.05510613350745178 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7400000095367432, + "std": 0.02974053859924918, + "n": 5, + "ci95": 0.036921836000633604 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..7176c2509ff33270f56a3950617327703cb34925 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpxq7bara4", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpxq7bara4/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5713154077529907, + "lr": 0.0, + "covertype_val_accuracy": 0.7667667865753174, + "covertype_val_precision": 0.7606249451637268, + "covertype_val_recall": 0.7667667865753174, + "covertype_val_f1-score": 0.7630768418312073, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7667667865753174 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5605115294456482, + "lr": 0.0, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7811629772186279, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.7804859280586243, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.781000018119812 + }, + "5": { + "covertype_test_loss": 0.5329100489616394, + "covertype_test_accuracy": 0.7915789484977722, + "covertype_test_precision": 0.7904248237609863, + "covertype_test_recall": 0.7915789484977722, + "covertype_test_f1-score": 0.7905336618423462, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7915789484977722 + }, + "10": { + "covertype_test_loss": 0.500198245048523, + "covertype_test_accuracy": 0.8005555272102356, + "covertype_test_precision": 0.7989192008972168, + "covertype_test_recall": 0.8005555272102356, + "covertype_test_f1-score": 0.7991586327552795, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8005555272102356 + }, + "20": { + "covertype_test_loss": 0.4870823323726654, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7983278632164001, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7984998822212219, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.800000011920929 + }, + "50": { + "covertype_test_loss": 0.46425744891166687, + "covertype_test_accuracy": 0.8040000200271606, + "covertype_test_precision": 0.8026087284088135, + "covertype_test_recall": 0.8040000200271606, + "covertype_test_f1-score": 0.8025844097137451, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8040000200271606 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5811907649040222, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7677677869796753, + "covertype_val_precision": 0.7727219462394714, + "covertype_val_recall": 0.7677677869796753, + "covertype_val_f1-score": 0.7677708864212036, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7677677869796753 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.553893506526947, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7829999923706055, + "covertype_test_precision": 0.7865855097770691, + "covertype_test_recall": 0.7829999923706055, + "covertype_test_f1-score": 0.7834130525588989, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7829999923706055 + }, + "5": { + "covertype_test_loss": 0.5394253730773926, + "covertype_test_accuracy": 0.7873684167861938, + "covertype_test_precision": 0.7920376658439636, + "covertype_test_recall": 0.7873684167861938, + "covertype_test_f1-score": 0.7881435751914978, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7873684167861938 + }, + "10": { + "covertype_test_loss": 0.511562168598175, + "covertype_test_accuracy": 0.7933333516120911, + "covertype_test_precision": 0.7962086796760559, + "covertype_test_recall": 0.7933333516120911, + "covertype_test_f1-score": 0.7937648892402649, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7933333516120911 + }, + "20": { + "covertype_test_loss": 0.5016180276870728, + "covertype_test_accuracy": 0.7956249713897705, + "covertype_test_precision": 0.7966573238372803, + "covertype_test_recall": 0.7956249713897705, + "covertype_test_f1-score": 0.7953884601593018, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7956249713897705 + }, + "50": { + "covertype_test_loss": 0.4779717028141022, + "covertype_test_accuracy": 0.8069999814033508, + "covertype_test_precision": 0.8069472908973694, + "covertype_test_recall": 0.8069999814033508, + "covertype_test_f1-score": 0.8058426976203918, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8069999814033508 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6170198917388916, + "lr": 0.0, + "covertype_val_accuracy": 0.7467467188835144, + "covertype_val_precision": 0.7475934624671936, + "covertype_val_recall": 0.7467467188835144, + "covertype_val_f1-score": 0.7442362904548645, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7467467188835144 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.563759446144104, + "lr": 0.0, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.7721220254898071, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.7645882964134216, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7649999856948853 + }, + "5": { + "covertype_test_loss": 0.5448209047317505, + "covertype_test_accuracy": 0.7705262899398804, + "covertype_test_precision": 0.7799113988876343, + "covertype_test_recall": 0.7705262899398804, + "covertype_test_f1-score": 0.7708264589309692, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7705262899398804 + }, + "10": { + "covertype_test_loss": 0.5219916701316833, + "covertype_test_accuracy": 0.7761111259460449, + "covertype_test_precision": 0.7843465805053711, + "covertype_test_recall": 0.7761111259460449, + "covertype_test_f1-score": 0.7763829231262207, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7761111259460449 + }, + "20": { + "covertype_test_loss": 0.512527585029602, + "covertype_test_accuracy": 0.7756249904632568, + "covertype_test_precision": 0.7837387919425964, + "covertype_test_recall": 0.7756249904632568, + "covertype_test_f1-score": 0.7758557200431824, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7756249904632568 + }, + "50": { + "covertype_test_loss": 0.49376729130744934, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.7907031178474426, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7830280661582947, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7839999794960022 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5786319971084595, + "lr": 0.0, + "covertype_val_accuracy": 0.7717717885971069, + "covertype_val_precision": 0.7646177411079407, + "covertype_val_recall": 0.7717717885971069, + "covertype_val_f1-score": 0.7670533657073975, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7717717885971069 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5477281212806702, + "lr": 0.0, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7812267541885376, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.7806455492973328, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.781000018119812 + }, + "5": { + "covertype_test_loss": 0.5303585529327393, + "covertype_test_accuracy": 0.7868421077728271, + "covertype_test_precision": 0.7878276705741882, + "covertype_test_recall": 0.7868421077728271, + "covertype_test_f1-score": 0.7864192128181458, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7868421077728271 + }, + "10": { + "covertype_test_loss": 0.504669725894928, + "covertype_test_accuracy": 0.7944444417953491, + "covertype_test_precision": 0.7936199903488159, + "covertype_test_recall": 0.7944444417953491, + "covertype_test_f1-score": 0.793148398399353, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7944444417953491 + }, + "20": { + "covertype_test_loss": 0.49057093262672424, + "covertype_test_accuracy": 0.7931249737739563, + "covertype_test_precision": 0.7903447151184082, + "covertype_test_recall": 0.7931249737739563, + "covertype_test_f1-score": 0.7907940149307251, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7931249737739563 + }, + "50": { + "covertype_test_loss": 0.4690639078617096, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7889188528060913, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7883490920066833, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7900000214576721 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5870410799980164, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7527527809143066, + "covertype_val_precision": 0.7474959492683411, + "covertype_val_recall": 0.7527527809143066, + "covertype_val_f1-score": 0.7486323714256287, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7527527809143066 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5773786902427673, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.765500009059906, + "covertype_test_precision": 0.7659703493118286, + "covertype_test_recall": 0.765500009059906, + "covertype_test_f1-score": 0.7624363899230957, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.765500009059906 + }, + "5": { + "covertype_test_loss": 0.5530520677566528, + "covertype_test_accuracy": 0.7736842036247253, + "covertype_test_precision": 0.7739964723587036, + "covertype_test_recall": 0.7736842036247253, + "covertype_test_f1-score": 0.7712185978889465, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7736842036247253 + }, + "10": { + "covertype_test_loss": 0.5252008438110352, + "covertype_test_accuracy": 0.7833333611488342, + "covertype_test_precision": 0.7832313179969788, + "covertype_test_recall": 0.7833333611488342, + "covertype_test_f1-score": 0.7806620597839355, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7833333611488342 + }, + "20": { + "covertype_test_loss": 0.513658881187439, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7925149202346802, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7875181436538696, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7900000214576721 + }, + "50": { + "covertype_test_loss": 0.49497899413108826, + "covertype_test_accuracy": 0.7960000038146973, + "covertype_test_precision": 0.8002922534942627, + "covertype_test_recall": 0.7960000038146973, + "covertype_test_f1-score": 0.793121874332428, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7960000038146973 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5606542587280273, + "std": 0.011204485370384258, + "n": 5, + "ci95": 0.01390997577048823 + }, + "lr": { + "mean": 0.0003000000491738319, + "std": 0.0004472136688039785, + "n": 5, + "ci95": 0.0005552000910043715 + }, + "covertype_test_accuracy": { + "mean": 0.7751000046730041, + "std": 0.009030509704567412, + "n": 5, + "ci95": 0.01121106119855495 + }, + "covertype_test_precision": { + "mean": 0.777413523197174, + "std": 0.00824121730133947, + "n": 5, + "ci95": 0.010231182351664671 + }, + "covertype_test_recall": { + "mean": 0.7751000046730041, + "std": 0.009030509704567412, + "n": 5, + "ci95": 0.01121106119855495 + }, + "covertype_test_f1-score": { + "mean": 0.7743138432502746, + "std": 0.009957922740274489, + "n": 5, + "ci95": 0.01236241196831172 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7751000046730041, + "std": 0.009030509704567412, + "n": 5, + "ci95": 0.01121106119855495 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5401133894920349, + "std": 0.009179983832361547, + "n": 5, + "ci95": 0.011396628087814047 + }, + "covertype_test_accuracy": { + "mean": 0.7819999933242798, + "std": 0.009284673563128542, + "n": 5, + "ci95": 0.011526596718255296 + }, + "covertype_test_precision": { + "mean": 0.7848396062850952, + "std": 0.007645194983776126, + "n": 5, + "ci95": 0.009491241540291911 + }, + "covertype_test_recall": { + "mean": 0.7819999933242798, + "std": 0.009284673563128542, + "n": 5, + "ci95": 0.011526596718255296 + }, + "covertype_test_f1-score": { + "mean": 0.7814283013343811, + "std": 0.009611826012591982, + "n": 5, + "ci95": 0.011932745014661725 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7819999933242798, + "std": 0.009284673563128542, + "n": 5, + "ci95": 0.011526596718255296 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5127245306968689, + "std": 0.010778184685010949, + "n": 5, + "ci95": 0.013380738415227005 + }, + "covertype_test_accuracy": { + "mean": 0.7895555615425109, + "std": 0.009729346315068187, + "n": 5, + "ci95": 0.012078642350054326 + }, + "covertype_test_precision": { + "mean": 0.7912651538848877, + "std": 0.00708832339782026, + "n": 5, + "ci95": 0.008799904989628559 + }, + "covertype_test_recall": { + "mean": 0.7895555615425109, + "std": 0.009729346315068187, + "n": 5, + "ci95": 0.012078642350054326 + }, + "covertype_test_f1-score": { + "mean": 0.7886233806610108, + "std": 0.00963215790284559, + "n": 5, + "ci95": 0.01195798634359803 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7895555615425109, + "std": 0.009729346315068187, + "n": 5, + "ci95": 0.012078642350054326 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5010915517807006, + "std": 0.012205935621378282, + "n": 5, + "ci95": 0.015153241147361 + }, + "covertype_test_accuracy": { + "mean": 0.7908749938011169, + "std": 0.009276567671616541, + "n": 5, + "ci95": 0.011516533538126721 + }, + "covertype_test_precision": { + "mean": 0.7923167228698731, + "std": 0.005755076471783085, + "n": 5, + "ci95": 0.007144725673113552 + }, + "covertype_test_recall": { + "mean": 0.7908749938011169, + "std": 0.009276567671616541, + "n": 5, + "ci95": 0.011516533538126721 + }, + "covertype_test_f1-score": { + "mean": 0.7896112442016602, + "std": 0.008766107623101422, + "n": 5, + "ci95": 0.010882815284058971 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7908749938011169, + "std": 0.009276567671616541, + "n": 5, + "ci95": 0.011516533538126721 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.48000786900520326, + "std": 0.014012925114134888, + "n": 5, + "ci95": 0.017396555251568645 + }, + "covertype_test_accuracy": { + "mean": 0.7962000012397766, + "std": 0.009549870986487878, + "n": 5, + "ci95": 0.011855830021828054 + }, + "covertype_test_precision": { + "mean": 0.7978940486907959, + "std": 0.007781458943161762, + "n": 5, + "ci95": 0.009660408468605728 + }, + "covertype_test_recall": { + "mean": 0.7962000012397766, + "std": 0.009549870986487878, + "n": 5, + "ci95": 0.011855830021828054 + }, + "covertype_test_f1-score": { + "mean": 0.7945852279663086, + "std": 0.009556624878356179, + "n": 5, + "ci95": 0.011864214741798584 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7962000012397766, + "std": 0.009549870986487878, + "n": 5, + "ci95": 0.011855830021828054 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..f066f14edef23c4a5f2c8366704225ac10ce2435 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:16edac8c42306086901af133387d7fc42d7a1f73dd5ecccf38e025470d48d95d +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..cd189f3473a97c7ae69b9ee64e12b661ce529f30 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d1dea295f3b174215a3420abeab46e005d1314924ce6bbf4ef2e69fc48608231 +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..f891ece1031ba83d7dceae403382ecfda79a2bf2 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ec6295afbe020a057cd5082861200f5947664625515af3f873e0dee4c74c8b35 +size 11507024 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/vtjepa_config.yaml b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..fe4a1a00fbcab80ae09cb0be99b73f8201e56e9b --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q0-gpu2-delay50-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/vtjepa_config.yaml @@ -0,0 +1,131 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 25 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +predictive_target_detach: false +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 50 +vtjepa_kl_y_end_weight: 3.0e-08 +vtjepa_kl_y_start_epoch: 50 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..919d489fdf69647efea35de7982a82b113090aea --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "b8eee4631a2599941fc2db8b4cc17c3f383722749838b9bc7e0267e77537cf6e", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "6f549d93958ab1affbd2c77d8a8ce98e02e4150e008e9989bbcc31323e709a76", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 7e-08, + "start_epoch": 50, + "annealing_epochs": 50 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "25", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "7e-08", + "--vtjepa_kl_y_annealing_epochs", + "50", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "50", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..3d2a208f9ae0f2192f770d338558ac6496cf9239 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp4e408tug", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp4e408tug/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6075286269187927, + "lr": 0.0, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7510846257209778, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7515134215354919, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6153385043144226, + "lr": 0.0, + "covertype_test_accuracy": 0.753000020980835, + "covertype_test_precision": 0.7548902034759521, + "covertype_test_recall": 0.753000020980835, + "covertype_test_f1-score": 0.7524420022964478, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.753000020980835 + }, + "5": { + "covertype_test_loss": 0.5986732840538025, + "covertype_test_accuracy": 0.7563157677650452, + "covertype_test_precision": 0.7593542337417603, + "covertype_test_recall": 0.7563157677650452, + "covertype_test_f1-score": 0.7560793161392212, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7563157677650452 + }, + "10": { + "covertype_test_loss": 0.5832018852233887, + "covertype_test_accuracy": 0.7616666555404663, + "covertype_test_precision": 0.7620647549629211, + "covertype_test_recall": 0.7616666555404663, + "covertype_test_f1-score": 0.7604502439498901, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7616666555404663 + }, + "20": { + "covertype_test_loss": 0.5630801916122437, + "covertype_test_accuracy": 0.7674999833106995, + "covertype_test_precision": 0.7681138515472412, + "covertype_test_recall": 0.7674999833106995, + "covertype_test_f1-score": 0.7667006254196167, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7674999833106995 + }, + "50": { + "covertype_test_loss": 0.5482548475265503, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.7660708427429199, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.7652512192726135, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7649999856948853 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6261135339736938, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.7517517805099487, + "covertype_val_precision": 0.7529637217521667, + "covertype_val_recall": 0.7517517805099487, + "covertype_val_f1-score": 0.7501335740089417, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7517517805099487 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6142023801803589, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7554571628570557, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7519225478172302, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7519999742507935 + }, + "5": { + "covertype_test_loss": 0.5931649208068848, + "covertype_test_accuracy": 0.7563157677650452, + "covertype_test_precision": 0.7609297037124634, + "covertype_test_recall": 0.7563157677650452, + "covertype_test_f1-score": 0.7566249966621399, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7563157677650452 + }, + "10": { + "covertype_test_loss": 0.5696840882301331, + "covertype_test_accuracy": 0.7616666555404663, + "covertype_test_precision": 0.7637618184089661, + "covertype_test_recall": 0.7616666555404663, + "covertype_test_f1-score": 0.7611732482910156, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7616666555404663 + }, + "20": { + "covertype_test_loss": 0.5423721075057983, + "covertype_test_accuracy": 0.7693750262260437, + "covertype_test_precision": 0.7696716785430908, + "covertype_test_recall": 0.7693750262260437, + "covertype_test_f1-score": 0.7684988975524902, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7693750262260437 + }, + "50": { + "covertype_test_loss": 0.5227112770080566, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.7777376174926758, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.7759900689125061, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7760000228881836 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5972916483879089, + "lr": 0.0, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7547687888145447, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7520616054534912, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.589399516582489, + "lr": 0.0, + "covertype_test_accuracy": 0.7735000252723694, + "covertype_test_precision": 0.7730876803398132, + "covertype_test_recall": 0.7735000252723694, + "covertype_test_f1-score": 0.7720258235931396, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7735000252723694 + }, + "5": { + "covertype_test_loss": 0.5734875202178955, + "covertype_test_accuracy": 0.7794736623764038, + "covertype_test_precision": 0.7779452800750732, + "covertype_test_recall": 0.7794736623764038, + "covertype_test_f1-score": 0.7779310941696167, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7794736623764038 + }, + "10": { + "covertype_test_loss": 0.5594202876091003, + "covertype_test_accuracy": 0.7827777862548828, + "covertype_test_precision": 0.7808663249015808, + "covertype_test_recall": 0.7827777862548828, + "covertype_test_f1-score": 0.7807345986366272, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7827777862548828 + }, + "20": { + "covertype_test_loss": 0.5299153327941895, + "covertype_test_accuracy": 0.7912499904632568, + "covertype_test_precision": 0.7886319160461426, + "covertype_test_recall": 0.7912499904632568, + "covertype_test_f1-score": 0.7892773747444153, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7912499904632568 + }, + "50": { + "covertype_test_loss": 0.5003766417503357, + "covertype_test_accuracy": 0.7929999828338623, + "covertype_test_precision": 0.7921996116638184, + "covertype_test_recall": 0.7929999828338623, + "covertype_test_f1-score": 0.7922605872154236, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7929999828338623 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6108463406562805, + "lr": 0.00011474337225081399, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.7523176670074463, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7462725043296814, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5819589495658875, + "lr": 0.00011474337225081399, + "covertype_test_accuracy": 0.7455000281333923, + "covertype_test_precision": 0.7491321563720703, + "covertype_test_recall": 0.7455000281333923, + "covertype_test_f1-score": 0.7455416917800903, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7455000281333923 + }, + "5": { + "covertype_test_loss": 0.5619087219238281, + "covertype_test_accuracy": 0.7494736909866333, + "covertype_test_precision": 0.7543938755989075, + "covertype_test_recall": 0.7494736909866333, + "covertype_test_f1-score": 0.750123918056488, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7494736909866333 + }, + "10": { + "covertype_test_loss": 0.5434150099754333, + "covertype_test_accuracy": 0.7538889050483704, + "covertype_test_precision": 0.756732165813446, + "covertype_test_recall": 0.7538889050483704, + "covertype_test_f1-score": 0.7536677122116089, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7538889050483704 + }, + "20": { + "covertype_test_loss": 0.5202208757400513, + "covertype_test_accuracy": 0.7612500190734863, + "covertype_test_precision": 0.7636489868164062, + "covertype_test_recall": 0.7612500190734863, + "covertype_test_f1-score": 0.7609558701515198, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7612500190734863 + }, + "50": { + "covertype_test_loss": 0.49113595485687256, + "covertype_test_accuracy": 0.7639999985694885, + "covertype_test_precision": 0.7660521864891052, + "covertype_test_recall": 0.7639999985694885, + "covertype_test_f1-score": 0.7638477087020874, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7639999985694885 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6014381647109985, + "lr": 0.0, + "covertype_val_accuracy": 0.7617617845535278, + "covertype_val_precision": 0.7572524547576904, + "covertype_val_recall": 0.7617617845535278, + "covertype_val_f1-score": 0.7573015093803406, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7617617845535278 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5980307459831238, + "lr": 0.0, + "covertype_test_accuracy": 0.7645000219345093, + "covertype_test_precision": 0.7641619443893433, + "covertype_test_recall": 0.7645000219345093, + "covertype_test_f1-score": 0.7626615166664124, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7645000219345093 + }, + "5": { + "covertype_test_loss": 0.5768277645111084, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7683345675468445, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.768220067024231, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7699999809265137 + }, + "10": { + "covertype_test_loss": 0.5561800003051758, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7733249068260193, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7729548215866089, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7749999761581421 + }, + "20": { + "covertype_test_loss": 0.5222408175468445, + "covertype_test_accuracy": 0.7837499976158142, + "covertype_test_precision": 0.7829907536506653, + "covertype_test_recall": 0.7837499976158142, + "covertype_test_f1-score": 0.7817201614379883, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7837499976158142 + }, + "50": { + "covertype_test_loss": 0.5077831149101257, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7845919132232666, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7844175100326538, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5997860193252563, + "std": 0.014819548656920142, + "n": 5, + "ci95": 0.01839795010060877 + }, + "lr": { + "mean": 2.3737204264762114e-05, + "std": 5.090263162564994e-05, + "n": 5, + "ci95": 6.319383257337377e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7577000141143799, + "std": 0.011172516578467786, + "n": 5, + "ci95": 0.013870287636114358 + }, + "covertype_test_precision": { + "mean": 0.7593458294868469, + "std": 0.009371857839048548, + "n": 5, + "ci95": 0.011634832940225858 + }, + "covertype_test_recall": { + "mean": 0.7577000141143799, + "std": 0.011172516578467786, + "n": 5, + "ci95": 0.013870287636114358 + }, + "covertype_test_f1-score": { + "mean": 0.7569187164306641, + "std": 0.010436040934177907, + "n": 5, + "ci95": 0.012955978943748633 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7577000141143799, + "std": 0.011172516578467786, + "n": 5, + "ci95": 0.013870287636114358 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5808124423027039, + "std": 0.014987296104268678, + "n": 5, + "ci95": 0.018606202675452318 + }, + "covertype_test_accuracy": { + "mean": 0.7623157739639282, + "std": 0.012148656462627966, + "n": 5, + "ci95": 0.015082131079916333 + }, + "covertype_test_precision": { + "mean": 0.7641915321350098, + "std": 0.009170106035720233, + "n": 5, + "ci95": 0.011384365149588462 + }, + "covertype_test_recall": { + "mean": 0.7623157739639282, + "std": 0.012148656462627966, + "n": 5, + "ci95": 0.015082131079916333 + }, + "covertype_test_f1-score": { + "mean": 0.7617958784103394, + "std": 0.011149743805359357, + "n": 5, + "ci95": 0.013842016036688441 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7623157739639282, + "std": 0.012148656462627966, + "n": 5, + "ci95": 0.015082131079916333 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5623802542686462, + "std": 0.014948004457877103, + "n": 5, + "ci95": 0.018557423473978773 + }, + "covertype_test_accuracy": { + "mean": 0.7669999957084656, + "std": 0.01163752652751267, + "n": 5, + "ci95": 0.014447581185119943 + }, + "covertype_test_precision": { + "mean": 0.7673499941825866, + "std": 0.009642844697882099, + "n": 5, + "ci95": 0.011971253624968661 + }, + "covertype_test_recall": { + "mean": 0.7669999957084656, + "std": 0.01163752652751267, + "n": 5, + "ci95": 0.014447581185119943 + }, + "covertype_test_f1-score": { + "mean": 0.7657961249351501, + "std": 0.010856481490857599, + "n": 5, + "ci95": 0.01347794115468635 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7669999957084656, + "std": 0.01163752652751267, + "n": 5, + "ci95": 0.014447581185119943 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5355658650398254, + "std": 0.017665766366044285, + "n": 5, + "ci95": 0.02193142960124679 + }, + "covertype_test_accuracy": { + "mean": 0.7746250033378601, + "std": 0.012418475063656011, + "n": 5, + "ci95": 0.015417101413551423 + }, + "covertype_test_precision": { + "mean": 0.7746114373207093, + "std": 0.010648731433505613, + "n": 5, + "ci95": 0.01322002674197071 + }, + "covertype_test_recall": { + "mean": 0.7746250033378601, + "std": 0.012418475063656011, + "n": 5, + "ci95": 0.015417101413551423 + }, + "covertype_test_f1-score": { + "mean": 0.773430585861206, + "std": 0.011673369589683215, + "n": 5, + "ci95": 0.014492079090186625 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7746250033378601, + "std": 0.012418475063656011, + "n": 5, + "ci95": 0.015417101413551423 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5140523672103882, + "std": 0.02233985969674526, + "n": 5, + "ci95": 0.02773415260277822 + }, + "covertype_test_accuracy": { + "mean": 0.7766000032424927, + "std": 0.012581734955994833, + "n": 5, + "ci95": 0.015619782846179119 + }, + "covertype_test_precision": { + "mean": 0.7773304343223572, + "std": 0.011488739982025367, + "n": 5, + "ci95": 0.014262867905188903 + }, + "covertype_test_recall": { + "mean": 0.7766000032424927, + "std": 0.012581734955994833, + "n": 5, + "ci95": 0.015619782846179119 + }, + "covertype_test_f1-score": { + "mean": 0.7763534188270569, + "std": 0.012225498118122725, + "n": 5, + "ci95": 0.015177527301229765 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7766000032424927, + "std": 0.012581734955994833, + "n": 5, + "ci95": 0.015619782846179119 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..aecb8ff1c7e68942f95d6313b55b06ea49cb990f --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp5wqfd2n3", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp5wqfd2n3/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6081099510192871, + "lr": 9.549149399390444e-05, + "covertype_val_accuracy": 0.7627627849578857, + "covertype_val_precision": 0.7530904412269592, + "covertype_val_recall": 0.7627627849578857, + "covertype_val_f1-score": 0.7562083005905151, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7627627849578857 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6019733548164368, + "lr": 9.549151582177728e-05, + "covertype_test_accuracy": 0.7645000219345093, + "covertype_test_precision": 0.7664166688919067, + "covertype_test_recall": 0.7645000219345093, + "covertype_test_f1-score": 0.7645754814147949, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7645000219345093 + }, + "5": { + "covertype_test_loss": 0.585164487361908, + "covertype_test_accuracy": 0.7721052765846252, + "covertype_test_precision": 0.7729555368423462, + "covertype_test_recall": 0.7721052765846252, + "covertype_test_f1-score": 0.772341787815094, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7721052765846252 + }, + "10": { + "covertype_test_loss": 0.5501237511634827, + "covertype_test_accuracy": 0.7788888812065125, + "covertype_test_precision": 0.7786394357681274, + "covertype_test_recall": 0.7788888812065125, + "covertype_test_f1-score": 0.7787380218505859, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7788888812065125 + }, + "20": { + "covertype_test_loss": 0.5329355001449585, + "covertype_test_accuracy": 0.7831249833106995, + "covertype_test_precision": 0.7825870513916016, + "covertype_test_recall": 0.7831249833106995, + "covertype_test_f1-score": 0.7826696634292603, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7831249833106995 + }, + "50": { + "covertype_test_loss": 0.5364547371864319, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.7920302748680115, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7917093634605408, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7919999957084656 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5931341648101807, + "lr": 1.5708421415183693e-05, + "covertype_val_accuracy": 0.7697697877883911, + "covertype_val_precision": 0.762508749961853, + "covertype_val_recall": 0.7697697877883911, + "covertype_val_f1-score": 0.764509379863739, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7697697877883911 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6528533697128296, + "lr": 1.5708415958215483e-05, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.7907811999320984, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7899778485298157, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7919999957084656 + }, + "5": { + "covertype_test_loss": 0.639277458190918, + "covertype_test_accuracy": 0.7994737029075623, + "covertype_test_precision": 0.7989482283592224, + "covertype_test_recall": 0.7994737029075623, + "covertype_test_f1-score": 0.7979748845100403, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7994737029075623 + }, + "10": { + "covertype_test_loss": 0.5749679803848267, + "covertype_test_accuracy": 0.8061110973358154, + "covertype_test_precision": 0.8046751022338867, + "covertype_test_recall": 0.8061110973358154, + "covertype_test_f1-score": 0.8039155602455139, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8061110973358154 + }, + "20": { + "covertype_test_loss": 0.5466631054878235, + "covertype_test_accuracy": 0.8106250166893005, + "covertype_test_precision": 0.8088851571083069, + "covertype_test_recall": 0.8106250166893005, + "covertype_test_f1-score": 0.8085588812828064, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8106250166893005 + }, + "50": { + "covertype_test_loss": 0.5459349751472473, + "covertype_test_accuracy": 0.8209999799728394, + "covertype_test_precision": 0.8204057812690735, + "covertype_test_recall": 0.8209999799728394, + "covertype_test_f1-score": 0.8198631405830383, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8209999799728394 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5609316825866699, + "lr": 0.0, + "covertype_val_accuracy": 0.7887887954711914, + "covertype_val_precision": 0.783735454082489, + "covertype_val_recall": 0.7887887954711914, + "covertype_val_f1-score": 0.7853307127952576, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7887887954711914 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5861690044403076, + "lr": 0.0, + "covertype_test_accuracy": 0.7875000238418579, + "covertype_test_precision": 0.7865719795227051, + "covertype_test_recall": 0.7875000238418579, + "covertype_test_f1-score": 0.7857242226600647, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7875000238418579 + }, + "5": { + "covertype_test_loss": 0.5696050524711609, + "covertype_test_accuracy": 0.7931578755378723, + "covertype_test_precision": 0.7905522584915161, + "covertype_test_recall": 0.7931578755378723, + "covertype_test_f1-score": 0.7912071347236633, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7931578755378723 + }, + "10": { + "covertype_test_loss": 0.5302934050559998, + "covertype_test_accuracy": 0.7988888621330261, + "covertype_test_precision": 0.7961152791976929, + "covertype_test_recall": 0.7988888621330261, + "covertype_test_f1-score": 0.7967368364334106, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7988888621330261 + }, + "20": { + "covertype_test_loss": 0.5100462436676025, + "covertype_test_accuracy": 0.8018749952316284, + "covertype_test_precision": 0.7993137240409851, + "covertype_test_recall": 0.8018749952316284, + "covertype_test_f1-score": 0.7998337149620056, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8018749952316284 + }, + "50": { + "covertype_test_loss": 0.4909361004829407, + "covertype_test_accuracy": 0.8140000104904175, + "covertype_test_precision": 0.8130369782447815, + "covertype_test_recall": 0.8140000104904175, + "covertype_test_f1-score": 0.8128571510314941, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8140000104904175 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5690212845802307, + "lr": 0.0, + "covertype_val_accuracy": 0.7687687873840332, + "covertype_val_precision": 0.7603368759155273, + "covertype_val_recall": 0.7687687873840332, + "covertype_val_f1-score": 0.763391375541687, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7687687873840332 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5633285641670227, + "lr": 0.0, + "covertype_test_accuracy": 0.7935000061988831, + "covertype_test_precision": 0.7929321527481079, + "covertype_test_recall": 0.7935000061988831, + "covertype_test_f1-score": 0.7913172245025635, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7935000061988831 + }, + "5": { + "covertype_test_loss": 0.5471373796463013, + "covertype_test_accuracy": 0.8005263209342957, + "covertype_test_precision": 0.798180103302002, + "covertype_test_recall": 0.8005263209342957, + "covertype_test_f1-score": 0.7984687685966492, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.8005263209342957 + }, + "10": { + "covertype_test_loss": 0.5216686725616455, + "covertype_test_accuracy": 0.8055555820465088, + "covertype_test_precision": 0.8035050630569458, + "covertype_test_recall": 0.8055555820465088, + "covertype_test_f1-score": 0.8033299446105957, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8055555820465088 + }, + "20": { + "covertype_test_loss": 0.5021295547485352, + "covertype_test_accuracy": 0.8087499737739563, + "covertype_test_precision": 0.806812584400177, + "covertype_test_recall": 0.8087499737739563, + "covertype_test_f1-score": 0.806551992893219, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8087499737739563 + }, + "50": { + "covertype_test_loss": 0.49344682693481445, + "covertype_test_accuracy": 0.8169999718666077, + "covertype_test_precision": 0.8172925710678101, + "covertype_test_recall": 0.8169999718666077, + "covertype_test_f1-score": 0.8156744241714478, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8169999718666077 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5796641111373901, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.762787938117981, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7659605145454407, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5482444167137146, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7899966835975647, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7892789244651794, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7910000085830688 + }, + "5": { + "covertype_test_loss": 0.5349979996681213, + "covertype_test_accuracy": 0.7978947162628174, + "covertype_test_precision": 0.7951761484146118, + "covertype_test_recall": 0.7978947162628174, + "covertype_test_f1-score": 0.795940101146698, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7978947162628174 + }, + "10": { + "covertype_test_loss": 0.4965085983276367, + "covertype_test_accuracy": 0.8055555820465088, + "covertype_test_precision": 0.8026005625724792, + "covertype_test_recall": 0.8055555820465088, + "covertype_test_f1-score": 0.8032006621360779, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8055555820465088 + }, + "20": { + "covertype_test_loss": 0.47923973202705383, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8079338669776917, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8079407215118408, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8100000023841858 + }, + "50": { + "covertype_test_loss": 0.47140437364578247, + "covertype_test_accuracy": 0.8149999976158142, + "covertype_test_precision": 0.8130173087120056, + "covertype_test_recall": 0.8149999976158142, + "covertype_test_f1-score": 0.813186764717102, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8149999976158142 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5905137419700622, + "std": 0.0405035751746307, + "n": 5, + "ci95": 0.05028376856883161 + }, + "lr": { + "mean": 2.243731353246403e-05, + "std": 4.137992322204963e-05, + "n": 5, + "ci95": 5.137172394591057e-05 + }, + "covertype_test_accuracy": { + "mean": 0.785700011253357, + "std": 0.012055074547859645, + "n": 5, + "ci95": 0.014965952413609714 + }, + "covertype_test_precision": { + "mean": 0.7853397369384766, + "std": 0.010822919841756961, + "n": 5, + "ci95": 0.013436275543962144 + }, + "covertype_test_recall": { + "mean": 0.785700011253357, + "std": 0.012055074547859645, + "n": 5, + "ci95": 0.014965952413609714 + }, + "covertype_test_f1-score": { + "mean": 0.7841747403144836, + "std": 0.011149839529521643, + "n": 5, + "ci95": 0.013842134874879933 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.785700011253357, + "std": 0.012055074547859645, + "n": 5, + "ci95": 0.014965952413609714 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5752364754676819, + "std": 0.04074377232764049, + "n": 5, + "ci95": 0.0505819649132472 + }, + "covertype_test_accuracy": { + "mean": 0.7926315784454345, + "std": 0.011815755398153905, + "n": 5, + "ci95": 0.014668846079514289 + }, + "covertype_test_precision": { + "mean": 0.7911624550819397, + "std": 0.010698593340910948, + "n": 5, + "ci95": 0.013281928551911201 + }, + "covertype_test_recall": { + "mean": 0.7926315784454345, + "std": 0.011815755398153905, + "n": 5, + "ci95": 0.014668846079514289 + }, + "covertype_test_f1-score": { + "mean": 0.791186535358429, + "std": 0.010918263680060356, + "n": 5, + "ci95": 0.013554641576566471 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7926315784454345, + "std": 0.011815755398153905, + "n": 5, + "ci95": 0.014668846079514289 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5347124814987183, + "std": 0.029610886092755896, + "n": 5, + "ci95": 0.03676087695929543 + }, + "covertype_test_accuracy": { + "mean": 0.7990000009536743, + "std": 0.011629579399183973, + "n": 5, + "ci95": 0.014437715103917382 + }, + "covertype_test_precision": { + "mean": 0.7971070885658265, + "std": 0.010844642119611513, + "n": 5, + "ci95": 0.013463242990359576 + }, + "covertype_test_recall": { + "mean": 0.7990000009536743, + "std": 0.011629579399183973, + "n": 5, + "ci95": 0.014437715103917382 + }, + "covertype_test_f1-score": { + "mean": 0.7971842050552368, + "std": 0.010720783864635491, + "n": 5, + "ci95": 0.013309477309140044 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7990000009536743, + "std": 0.011629579399183973, + "n": 5, + "ci95": 0.014437715103917382 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5142028272151947, + "std": 0.026410423229320436, + "n": 5, + "ci95": 0.03278761451902256 + }, + "covertype_test_accuracy": { + "mean": 0.8028749942779541, + "std": 0.011580229955273086, + "n": 5, + "ci95": 0.014376449499438844 + }, + "covertype_test_precision": { + "mean": 0.8011064767837525, + "std": 0.011021159964294465, + "n": 5, + "ci95": 0.013682383706013386 + }, + "covertype_test_recall": { + "mean": 0.8028749942779541, + "std": 0.011580229955273086, + "n": 5, + "ci95": 0.014376449499438844 + }, + "covertype_test_f1-score": { + "mean": 0.8011109948158264, + "std": 0.010879278316823133, + "n": 5, + "ci95": 0.0135062426148911 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8028749942779541, + "std": 0.011580229955273086, + "n": 5, + "ci95": 0.014376449499438844 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5076354026794434, + "std": 0.031977652872715014, + "n": 5, + "ci95": 0.039699134940393475 + }, + "covertype_test_accuracy": { + "mean": 0.8117999911308289, + "std": 0.011388585730433215, + "n": 5, + "ci95": 0.014138529913134348 + }, + "covertype_test_precision": { + "mean": 0.8111565828323364, + "std": 0.011135661940367818, + "n": 5, + "ci95": 0.013824533894996029 + }, + "covertype_test_recall": { + "mean": 0.8117999911308289, + "std": 0.011388585730433215, + "n": 5, + "ci95": 0.014138529913134348 + }, + "covertype_test_f1-score": { + "mean": 0.8106581687927246, + "std": 0.010956514813539488, + "n": 5, + "ci95": 0.013602129017738449 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8117999911308289, + "std": 0.011388585730433215, + "n": 5, + "ci95": 0.014138529913134348 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..ed8ce642e46b1d9dde70d4feee9ae8324ff04b2b --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpizhavqpx", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpizhavqpx/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5977320671081543, + "lr": 0.0, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.7432544827461243, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7428781986236572, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5669006109237671, + "lr": 0.0, + "covertype_test_accuracy": 0.7570000290870667, + "covertype_test_precision": 0.757262647151947, + "covertype_test_recall": 0.7570000290870667, + "covertype_test_f1-score": 0.7548020482063293, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7570000290870667 + }, + "5": { + "covertype_test_loss": 0.5501796007156372, + "covertype_test_accuracy": 0.7663158178329468, + "covertype_test_precision": 0.7675477266311646, + "covertype_test_recall": 0.7663158178329468, + "covertype_test_f1-score": 0.7644570469856262, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7663158178329468 + }, + "10": { + "covertype_test_loss": 0.5273265838623047, + "covertype_test_accuracy": 0.773888885974884, + "covertype_test_precision": 0.7726163864135742, + "covertype_test_recall": 0.773888885974884, + "covertype_test_f1-score": 0.7710253596305847, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.773888885974884 + }, + "20": { + "covertype_test_loss": 0.5080161094665527, + "covertype_test_accuracy": 0.7787500023841858, + "covertype_test_precision": 0.7780922651290894, + "covertype_test_recall": 0.7787500023841858, + "covertype_test_f1-score": 0.7756926417350769, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7787500023841858 + }, + "50": { + "covertype_test_loss": 0.48539745807647705, + "covertype_test_accuracy": 0.7829999923706055, + "covertype_test_precision": 0.781901478767395, + "covertype_test_recall": 0.7829999923706055, + "covertype_test_f1-score": 0.7811796069145203, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7829999923706055 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5876296758651733, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.744112491607666, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7438182234764099, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5584632158279419, + "lr": 0.0, + "covertype_test_accuracy": 0.7630000114440918, + "covertype_test_precision": 0.7620655298233032, + "covertype_test_recall": 0.7630000114440918, + "covertype_test_f1-score": 0.7600607872009277, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7630000114440918 + }, + "5": { + "covertype_test_loss": 0.5447533130645752, + "covertype_test_accuracy": 0.7710526585578918, + "covertype_test_precision": 0.7708058953285217, + "covertype_test_recall": 0.7710526585578918, + "covertype_test_f1-score": 0.7687258124351501, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7710526585578918 + }, + "10": { + "covertype_test_loss": 0.5266162753105164, + "covertype_test_accuracy": 0.777222216129303, + "covertype_test_precision": 0.7748030424118042, + "covertype_test_recall": 0.777222216129303, + "covertype_test_f1-score": 0.7739357352256775, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.777222216129303 + }, + "20": { + "covertype_test_loss": 0.5116357207298279, + "covertype_test_accuracy": 0.7831249833106995, + "covertype_test_precision": 0.7791072726249695, + "covertype_test_recall": 0.7831249833106995, + "covertype_test_f1-score": 0.7794657945632935, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7831249833106995 + }, + "50": { + "covertype_test_loss": 0.5032578706741333, + "covertype_test_accuracy": 0.7879999876022339, + "covertype_test_precision": 0.7883514165878296, + "covertype_test_recall": 0.7879999876022339, + "covertype_test_f1-score": 0.7871618270874023, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7879999876022339 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5831977128982544, + "lr": 0.0, + "covertype_val_accuracy": 0.7587587833404541, + "covertype_val_precision": 0.757461667060852, + "covertype_val_recall": 0.7587587833404541, + "covertype_val_f1-score": 0.7553311586380005, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7587587833404541 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5689641833305359, + "lr": 0.0, + "covertype_test_accuracy": 0.7444999814033508, + "covertype_test_precision": 0.7405155897140503, + "covertype_test_recall": 0.7444999814033508, + "covertype_test_f1-score": 0.7392996549606323, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7444999814033508 + }, + "5": { + "covertype_test_loss": 0.5527929663658142, + "covertype_test_accuracy": 0.7547368407249451, + "covertype_test_precision": 0.749725878238678, + "covertype_test_recall": 0.7547368407249451, + "covertype_test_f1-score": 0.7503255605697632, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7547368407249451 + }, + "10": { + "covertype_test_loss": 0.529789924621582, + "covertype_test_accuracy": 0.7638888955116272, + "covertype_test_precision": 0.7581723928451538, + "covertype_test_recall": 0.7638888955116272, + "covertype_test_f1-score": 0.7583410143852234, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7638888955116272 + }, + "20": { + "covertype_test_loss": 0.5036115050315857, + "covertype_test_accuracy": 0.7718750238418579, + "covertype_test_precision": 0.7677185535430908, + "covertype_test_recall": 0.7718750238418579, + "covertype_test_f1-score": 0.7666293382644653, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7718750238418579 + }, + "50": { + "covertype_test_loss": 0.4812546372413635, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.783411979675293, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7835282683372498, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5888825058937073, + "lr": 0.0, + "covertype_val_accuracy": 0.7507507801055908, + "covertype_val_precision": 0.7455304265022278, + "covertype_val_recall": 0.7507507801055908, + "covertype_val_f1-score": 0.7446199655532837, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7507507801055908 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5686696171760559, + "lr": 0.0, + "covertype_test_accuracy": 0.7494999766349792, + "covertype_test_precision": 0.7481406927108765, + "covertype_test_recall": 0.7494999766349792, + "covertype_test_f1-score": 0.7456351518630981, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7494999766349792 + }, + "5": { + "covertype_test_loss": 0.5510434508323669, + "covertype_test_accuracy": 0.7573684453964233, + "covertype_test_precision": 0.7549774646759033, + "covertype_test_recall": 0.7573684453964233, + "covertype_test_f1-score": 0.7543041110038757, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7573684453964233 + }, + "10": { + "covertype_test_loss": 0.5310986042022705, + "covertype_test_accuracy": 0.7616666555404663, + "covertype_test_precision": 0.758280336856842, + "covertype_test_recall": 0.7616666555404663, + "covertype_test_f1-score": 0.7573073506355286, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7616666555404663 + }, + "20": { + "covertype_test_loss": 0.5153948068618774, + "covertype_test_accuracy": 0.7706249952316284, + "covertype_test_precision": 0.7644786834716797, + "covertype_test_recall": 0.7706249952316284, + "covertype_test_f1-score": 0.7652474045753479, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7706249952316284 + }, + "50": { + "covertype_test_loss": 0.4782489538192749, + "covertype_test_accuracy": 0.7889999747276306, + "covertype_test_precision": 0.7878028750419617, + "covertype_test_recall": 0.7889999747276306, + "covertype_test_f1-score": 0.7870262265205383, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7889999747276306 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.617145836353302, + "lr": 0.0, + "covertype_val_accuracy": 0.7467467188835144, + "covertype_val_precision": 0.7438340187072754, + "covertype_val_recall": 0.7467467188835144, + "covertype_val_f1-score": 0.7426323890686035, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7467467188835144 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5827968120574951, + "lr": 0.0, + "covertype_test_accuracy": 0.7509999871253967, + "covertype_test_precision": 0.7523683905601501, + "covertype_test_recall": 0.7509999871253967, + "covertype_test_f1-score": 0.7484895586967468, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7509999871253967 + }, + "5": { + "covertype_test_loss": 0.5640342235565186, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.759341835975647, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7577884197235107, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7599999904632568 + }, + "10": { + "covertype_test_loss": 0.5434451699256897, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.7642593383789062, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.762579083442688, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7649999856948853 + }, + "20": { + "covertype_test_loss": 0.5289294719696045, + "covertype_test_accuracy": 0.7668750286102295, + "covertype_test_precision": 0.7669889330863953, + "covertype_test_recall": 0.7668750286102295, + "covertype_test_f1-score": 0.7649524211883545, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7668750286102295 + }, + "50": { + "covertype_test_loss": 0.509185254573822, + "covertype_test_accuracy": 0.7720000147819519, + "covertype_test_precision": 0.7747663259506226, + "covertype_test_recall": 0.7720000147819519, + "covertype_test_f1-score": 0.7718155384063721, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7720000147819519 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5691588878631592, + "std": 0.008743104240066215, + "n": 5, + "ci95": 0.010854257390493886 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.752999997138977, + "std": 0.0071501921788326255, + "n": 5, + "ci95": 0.008876712912204493 + }, + "covertype_test_precision": { + "mean": 0.7520705699920655, + "std": 0.008305225599336831, + "n": 5, + "ci95": 0.010310646409568382 + }, + "covertype_test_recall": { + "mean": 0.752999997138977, + "std": 0.0071501921788326255, + "n": 5, + "ci95": 0.008876712912204493 + }, + "covertype_test_f1-score": { + "mean": 0.7496574401855469, + "std": 0.008054860118217147, + "n": 5, + "ci95": 0.009999826442294687 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.752999997138977, + "std": 0.0071501921788326255, + "n": 5, + "ci95": 0.008876712912204493 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5525607109069824, + "std": 0.007082066436856513, + "n": 5, + "ci95": 0.008792137191954185 + }, + "covertype_test_accuracy": { + "mean": 0.7618947505950928, + "std": 0.006684428588042876, + "n": 5, + "ci95": 0.0082984837433945 + }, + "covertype_test_precision": { + "mean": 0.7604797601699829, + "std": 0.00871494866561861, + "n": 5, + "ci95": 0.010819303231920433 + }, + "covertype_test_recall": { + "mean": 0.7618947505950928, + "std": 0.006684428588042876, + "n": 5, + "ci95": 0.0082984837433945 + }, + "covertype_test_f1-score": { + "mean": 0.7591201901435852, + "std": 0.007467659617194739, + "n": 5, + "ci95": 0.009270837606874383 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7618947505950928, + "std": 0.006684428588042876, + "n": 5, + "ci95": 0.0082984837433945 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5316553115844727, + "std": 0.006835936687821183, + "n": 5, + "ci95": 0.008486575737563142 + }, + "covertype_test_accuracy": { + "mean": 0.7683333277702331, + "std": 0.006804138985518981, + "n": 5, + "ci95": 0.008447100004947174 + }, + "covertype_test_precision": { + "mean": 0.7656262993812561, + "std": 0.007817710659283262, + "n": 5, + "ci95": 0.009705413703225564 + }, + "covertype_test_recall": { + "mean": 0.7683333277702331, + "std": 0.006804138985518981, + "n": 5, + "ci95": 0.008447100004947174 + }, + "covertype_test_f1-score": { + "mean": 0.7646377086639404, + "std": 0.007497930185730367, + "n": 5, + "ci95": 0.009308417456458768 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7683333277702331, + "std": 0.006804138985518981, + "n": 5, + "ci95": 0.008447100004947174 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5135175228118897, + "std": 0.009656452355553864, + "n": 5, + "ci95": 0.011988147054898757 + }, + "covertype_test_accuracy": { + "mean": 0.7742500066757202, + "std": 0.006560996962067628, + "n": 5, + "ci95": 0.008145247707122287 + }, + "covertype_test_precision": { + "mean": 0.7712771415710449, + "std": 0.006801253096349052, + "n": 5, + "ci95": 0.008443517274718784 + }, + "covertype_test_recall": { + "mean": 0.7742500066757202, + "std": 0.006560996962067628, + "n": 5, + "ci95": 0.008145247707122287 + }, + "covertype_test_f1-score": { + "mean": 0.7703975200653076, + "std": 0.006720191613570234, + "n": 5, + "ci95": 0.00834288228577466 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7742500066757202, + "std": 0.006560996962067628, + "n": 5, + "ci95": 0.008145247707122287 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.49146883487701415, + "std": 0.01386370798771204, + "n": 5, + "ci95": 0.017211307420501816 + }, + "covertype_test_accuracy": { + "mean": 0.7833999991416931, + "std": 0.006804398501890522, + "n": 5, + "ci95": 0.008447422185424084 + }, + "covertype_test_precision": { + "mean": 0.7832468152046204, + "std": 0.005490230959207614, + "n": 5, + "ci95": 0.006815929254441357 + }, + "covertype_test_recall": { + "mean": 0.7833999991416931, + "std": 0.006804398501890522, + "n": 5, + "ci95": 0.008447422185424084 + }, + "covertype_test_f1-score": { + "mean": 0.7821422934532165, + "std": 0.006295595318539927, + "n": 5, + "ci95": 0.007815760871370236 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7833999991416931, + "std": 0.006804398501890522, + "n": 5, + "ci95": 0.008447422185424084 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..ac0c6d653033929f6d928ba732fcac02a190d20f --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp7bnx5twd", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp7bnx5twd/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6454945206642151, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7097097039222717, + "covertype_val_precision": 0.7116737365722656, + "covertype_val_recall": 0.7097097039222717, + "covertype_val_f1-score": 0.7026759386062622, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7097097039222717 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6373612880706787, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7245000004768372, + "covertype_test_precision": 0.727584958076477, + "covertype_test_recall": 0.7245000004768372, + "covertype_test_f1-score": 0.7182221412658691, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7245000004768372 + }, + "5": { + "covertype_test_loss": 0.6240346431732178, + "covertype_test_accuracy": 0.7273684144020081, + "covertype_test_precision": 0.7307968735694885, + "covertype_test_recall": 0.7273684144020081, + "covertype_test_f1-score": 0.7212111949920654, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7273684144020081 + }, + "10": { + "covertype_test_loss": 0.6116710305213928, + "covertype_test_accuracy": 0.7300000190734863, + "covertype_test_precision": 0.7318368554115295, + "covertype_test_recall": 0.7300000190734863, + "covertype_test_f1-score": 0.7226352095603943, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7300000190734863 + }, + "20": { + "covertype_test_loss": 0.5909166932106018, + "covertype_test_accuracy": 0.737500011920929, + "covertype_test_precision": 0.7375392317771912, + "covertype_test_recall": 0.737500011920929, + "covertype_test_f1-score": 0.7305124998092651, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.737500011920929 + }, + "50": { + "covertype_test_loss": 0.5495110750198364, + "covertype_test_accuracy": 0.7559999823570251, + "covertype_test_precision": 0.7549723386764526, + "covertype_test_recall": 0.7559999823570251, + "covertype_test_f1-score": 0.7499268651008606, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7559999823570251 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.667690098285675, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7107107043266296, + "covertype_val_precision": 0.6963176131248474, + "covertype_val_recall": 0.7107107043266296, + "covertype_val_f1-score": 0.6997859477996826, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7107107043266296 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6632980108261108, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7114999890327454, + "covertype_test_precision": 0.6990659236907959, + "covertype_test_recall": 0.7114999890327454, + "covertype_test_f1-score": 0.6996374130249023, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7114999890327454 + }, + "5": { + "covertype_test_loss": 0.6455501914024353, + "covertype_test_accuracy": 0.7163158059120178, + "covertype_test_precision": 0.7054781317710876, + "covertype_test_recall": 0.7163158059120178, + "covertype_test_f1-score": 0.704484224319458, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7163158059120178 + }, + "10": { + "covertype_test_loss": 0.6179631352424622, + "covertype_test_accuracy": 0.7238888740539551, + "covertype_test_precision": 0.7124485373497009, + "covertype_test_recall": 0.7238888740539551, + "covertype_test_f1-score": 0.7103560566902161, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7238888740539551 + }, + "20": { + "covertype_test_loss": 0.5996206998825073, + "covertype_test_accuracy": 0.7256249785423279, + "covertype_test_precision": 0.7120777368545532, + "covertype_test_recall": 0.7256249785423279, + "covertype_test_f1-score": 0.7106720805168152, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7256249785423279 + }, + "50": { + "covertype_test_loss": 0.564151406288147, + "covertype_test_accuracy": 0.7379999756813049, + "covertype_test_precision": 0.7405303716659546, + "covertype_test_recall": 0.7379999756813049, + "covertype_test_f1-score": 0.7226420640945435, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7379999756813049 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6646143794059753, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7297297120094299, + "covertype_val_precision": 0.7159938216209412, + "covertype_val_recall": 0.7297297120094299, + "covertype_val_f1-score": 0.7125215530395508, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7297297120094299 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6675559878349304, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7164999842643738, + "covertype_test_precision": 0.6930408477783203, + "covertype_test_recall": 0.7164999842643738, + "covertype_test_f1-score": 0.6971624493598938, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7164999842643738 + }, + "5": { + "covertype_test_loss": 0.6423105597496033, + "covertype_test_accuracy": 0.730526328086853, + "covertype_test_precision": 0.7126703262329102, + "covertype_test_recall": 0.730526328086853, + "covertype_test_f1-score": 0.7159473299980164, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.730526328086853 + }, + "10": { + "covertype_test_loss": 0.623138427734375, + "covertype_test_accuracy": 0.7388888597488403, + "covertype_test_precision": 0.7305529713630676, + "covertype_test_recall": 0.7388888597488403, + "covertype_test_f1-score": 0.7266212701797485, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7388888597488403 + }, + "20": { + "covertype_test_loss": 0.5990139245986938, + "covertype_test_accuracy": 0.7437499761581421, + "covertype_test_precision": 0.7294144034385681, + "covertype_test_recall": 0.7437499761581421, + "covertype_test_f1-score": 0.733153223991394, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7437499761581421 + }, + "50": { + "covertype_test_loss": 0.5549095273017883, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7510161399841309, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7533441185951233, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7620000243186951 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6451980471611023, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7087087035179138, + "covertype_val_precision": 0.6840261220932007, + "covertype_val_recall": 0.7087087035179138, + "covertype_val_f1-score": 0.6901780962944031, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7087087035179138 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6455086469650269, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7089999914169312, + "covertype_test_precision": 0.7062199711799622, + "covertype_test_recall": 0.7089999914169312, + "covertype_test_f1-score": 0.6951443552970886, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7089999914169312 + }, + "5": { + "covertype_test_loss": 0.6287125945091248, + "covertype_test_accuracy": 0.7168421149253845, + "covertype_test_precision": 0.7129872441291809, + "covertype_test_recall": 0.7168421149253845, + "covertype_test_f1-score": 0.7067980766296387, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7168421149253845 + }, + "10": { + "covertype_test_loss": 0.6089101433753967, + "covertype_test_accuracy": 0.7244444489479065, + "covertype_test_precision": 0.7208220362663269, + "covertype_test_recall": 0.7244444489479065, + "covertype_test_f1-score": 0.7162380218505859, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7244444489479065 + }, + "20": { + "covertype_test_loss": 0.5887690186500549, + "covertype_test_accuracy": 0.7300000190734863, + "covertype_test_precision": 0.7276709675788879, + "covertype_test_recall": 0.7300000190734863, + "covertype_test_f1-score": 0.7228188514709473, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7300000190734863 + }, + "50": { + "covertype_test_loss": 0.5501911044120789, + "covertype_test_accuracy": 0.7440000176429749, + "covertype_test_precision": 0.7361687421798706, + "covertype_test_recall": 0.7440000176429749, + "covertype_test_f1-score": 0.7347096800804138, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7440000176429749 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6496153473854065, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7247247099876404, + "covertype_val_precision": 0.7104270458221436, + "covertype_val_recall": 0.7247247099876404, + "covertype_val_f1-score": 0.7122704386711121, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7247247099876404 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6474496126174927, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.7064311504364014, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7076523900032043, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7200000286102295 + }, + "5": { + "covertype_test_loss": 0.6243796348571777, + "covertype_test_accuracy": 0.7284210324287415, + "covertype_test_precision": 0.7138339877128601, + "covertype_test_recall": 0.7284210324287415, + "covertype_test_f1-score": 0.7179677486419678, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7284210324287415 + }, + "10": { + "covertype_test_loss": 0.6042221188545227, + "covertype_test_accuracy": 0.7372221946716309, + "covertype_test_precision": 0.7221648097038269, + "covertype_test_recall": 0.7372221946716309, + "covertype_test_f1-score": 0.7276497483253479, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7372221946716309 + }, + "20": { + "covertype_test_loss": 0.5848338603973389, + "covertype_test_accuracy": 0.7412499785423279, + "covertype_test_precision": 0.7276699542999268, + "covertype_test_recall": 0.7412499785423279, + "covertype_test_f1-score": 0.7315784096717834, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7412499785423279 + }, + "50": { + "covertype_test_loss": 0.5568106770515442, + "covertype_test_accuracy": 0.7480000257492065, + "covertype_test_precision": 0.7406416535377502, + "covertype_test_recall": 0.7480000257492065, + "covertype_test_f1-score": 0.7384199500083923, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7480000257492065 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6522347092628479, + "std": 0.012713122555673313, + "n": 5, + "ci95": 0.015782895944876273 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7162999987602234, + "std": 0.006270973685187961, + "n": 5, + "ci95": 0.007785193976770957 + }, + "covertype_test_precision": { + "mean": 0.7064685702323914, + "std": 0.013048639233989206, + "n": 5, + "ci95": 0.01619942813816242 + }, + "covertype_test_recall": { + "mean": 0.7162999987602234, + "std": 0.006270973685187961, + "n": 5, + "ci95": 0.007785193976770957 + }, + "covertype_test_f1-score": { + "mean": 0.7035637497901917, + "std": 0.009471858195063503, + "n": 5, + "ci95": 0.01175897987631673 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7162999987602234, + "std": 0.006270973685187961, + "n": 5, + "ci95": 0.007785193976770957 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6329975247383117, + "std": 0.010213519967724086, + "n": 5, + "ci95": 0.012679726965234771 + }, + "covertype_test_accuracy": { + "mean": 0.723894739151001, + "std": 0.006777010032241521, + "n": 5, + "ci95": 0.008413420360564253 + }, + "covertype_test_precision": { + "mean": 0.7151533126831054, + "std": 0.0093665337232553, + "n": 5, + "ci95": 0.011628223237126142 + }, + "covertype_test_recall": { + "mean": 0.723894739151001, + "std": 0.006777010032241521, + "n": 5, + "ci95": 0.008413420360564253 + }, + "covertype_test_f1-score": { + "mean": 0.7132817149162293, + "std": 0.007269361669839284, + "n": 5, + "ci95": 0.00902465765733893 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.723894739151001, + "std": 0.006777010032241521, + "n": 5, + "ci95": 0.008413420360564253 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6131809711456299, + "std": 0.007463259342796679, + "n": 5, + "ci95": 0.009265374820477937 + }, + "covertype_test_accuracy": { + "mean": 0.7308888792991638, + "std": 0.006989839041213354, + "n": 5, + "ci95": 0.00867764011365352 + }, + "covertype_test_precision": { + "mean": 0.7235650420188904, + "std": 0.00791068044602854, + "n": 5, + "ci95": 0.009820832434052103 + }, + "covertype_test_recall": { + "mean": 0.7308888792991638, + "std": 0.006989839041213354, + "n": 5, + "ci95": 0.00867764011365352 + }, + "covertype_test_f1-score": { + "mean": 0.7207000613212585, + "std": 0.007314572621708112, + "n": 5, + "ci95": 0.009080785469038196 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7308888792991638, + "std": 0.006989839041213354, + "n": 5, + "ci95": 0.00867764011365352 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5926308393478393, + "std": 0.006485498524592678, + "n": 5, + "ci95": 0.00805151904388871 + }, + "covertype_test_accuracy": { + "mean": 0.7356249928474426, + "std": 0.0076290912049362366, + "n": 5, + "ci95": 0.009471249263442835 + }, + "covertype_test_precision": { + "mean": 0.7268744587898255, + "std": 0.00922495150499629, + "n": 5, + "ci95": 0.011452453876873298 + }, + "covertype_test_recall": { + "mean": 0.7356249928474426, + "std": 0.0076290912049362366, + "n": 5, + "ci95": 0.009471249263442835 + }, + "covertype_test_f1-score": { + "mean": 0.725747013092041, + "std": 0.009319264083537096, + "n": 5, + "ci95": 0.011569539636637191 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7356249928474426, + "std": 0.0076290912049362366, + "n": 5, + "ci95": 0.009471249263442835 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5551147580146789, + "std": 0.005920787552103441, + "n": 5, + "ci95": 0.007350450169684386 + }, + "covertype_test_accuracy": { + "mean": 0.7496000051498413, + "std": 0.009528912076817081, + "n": 5, + "ci95": 0.011829810270267914 + }, + "covertype_test_precision": { + "mean": 0.7446658492088318, + "std": 0.00793799520101648, + "n": 5, + "ci95": 0.009854742744744582 + }, + "covertype_test_recall": { + "mean": 0.7496000051498413, + "std": 0.009528912076817081, + "n": 5, + "ci95": 0.011829810270267914 + }, + "covertype_test_f1-score": { + "mean": 0.7398085355758667, + "std": 0.012330924949170917, + "n": 5, + "ci95": 0.015308411015828199 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7496000051498413, + "std": 0.009528912076817081, + "n": 5, + "ci95": 0.011829810270267914 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..581640ad872bfc7ed18e31087aea84dcbf2950f6 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpoezilmqg", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpoezilmqg/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.588982880115509, + "lr": 0.0, + "covertype_val_accuracy": 0.7657657861709595, + "covertype_val_precision": 0.762799084186554, + "covertype_val_recall": 0.7657657861709595, + "covertype_val_f1-score": 0.7639675736427307, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7657657861709595 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.556178629398346, + "lr": 0.0, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.7835803627967834, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7829383015632629, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7839999794960022 + }, + "5": { + "covertype_test_loss": 0.5329679250717163, + "covertype_test_accuracy": 0.7910526394844055, + "covertype_test_precision": 0.7897266149520874, + "covertype_test_recall": 0.7910526394844055, + "covertype_test_f1-score": 0.789801299571991, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7910526394844055 + }, + "10": { + "covertype_test_loss": 0.4989927113056183, + "covertype_test_accuracy": 0.7994444370269775, + "covertype_test_precision": 0.7972814440727234, + "covertype_test_recall": 0.7994444370269775, + "covertype_test_f1-score": 0.7977062463760376, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7994444370269775 + }, + "20": { + "covertype_test_loss": 0.4820798933506012, + "covertype_test_accuracy": 0.8025000095367432, + "covertype_test_precision": 0.8014845252037048, + "covertype_test_recall": 0.8025000095367432, + "covertype_test_f1-score": 0.801716685295105, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8025000095367432 + }, + "50": { + "covertype_test_loss": 0.4716872274875641, + "covertype_test_accuracy": 0.8069999814033508, + "covertype_test_precision": 0.8077023029327393, + "covertype_test_recall": 0.8069999814033508, + "covertype_test_f1-score": 0.8068556189537048, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8069999814033508 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6143167018890381, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7486824989318848, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7470885515213013, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5791099667549133, + "lr": 0.0, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7795482873916626, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7744171619415283, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7749999761581421 + }, + "5": { + "covertype_test_loss": 0.5602037310600281, + "covertype_test_accuracy": 0.7810526490211487, + "covertype_test_precision": 0.787607729434967, + "covertype_test_recall": 0.7810526490211487, + "covertype_test_f1-score": 0.781358003616333, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7810526490211487 + }, + "10": { + "covertype_test_loss": 0.5344254374504089, + "covertype_test_accuracy": 0.7855555415153503, + "covertype_test_precision": 0.7906204462051392, + "covertype_test_recall": 0.7855555415153503, + "covertype_test_f1-score": 0.7854209542274475, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7855555415153503 + }, + "20": { + "covertype_test_loss": 0.5144758820533752, + "covertype_test_accuracy": 0.7925000190734863, + "covertype_test_precision": 0.7972767949104309, + "covertype_test_recall": 0.7925000190734863, + "covertype_test_f1-score": 0.7926695346832275, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7925000190734863 + }, + "50": { + "covertype_test_loss": 0.47612836956977844, + "covertype_test_accuracy": 0.8059999942779541, + "covertype_test_precision": 0.8097714781761169, + "covertype_test_recall": 0.8059999942779541, + "covertype_test_f1-score": 0.8059419989585876, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8059999942779541 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5874826312065125, + "lr": 0.0, + "covertype_val_accuracy": 0.7717717885971069, + "covertype_val_precision": 0.7720959782600403, + "covertype_val_recall": 0.7717717885971069, + "covertype_val_f1-score": 0.7694962620735168, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7717717885971069 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5626856088638306, + "lr": 0.0, + "covertype_test_accuracy": 0.7754999995231628, + "covertype_test_precision": 0.7807425856590271, + "covertype_test_recall": 0.7754999995231628, + "covertype_test_f1-score": 0.7750998139381409, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7754999995231628 + }, + "5": { + "covertype_test_loss": 0.543060839176178, + "covertype_test_accuracy": 0.7815789580345154, + "covertype_test_precision": 0.7890516519546509, + "covertype_test_recall": 0.7815789580345154, + "covertype_test_f1-score": 0.7816548943519592, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7815789580345154 + }, + "10": { + "covertype_test_loss": 0.5224893093109131, + "covertype_test_accuracy": 0.7861111164093018, + "covertype_test_precision": 0.7915709018707275, + "covertype_test_recall": 0.7861111164093018, + "covertype_test_f1-score": 0.7855603098869324, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7861111164093018 + }, + "20": { + "covertype_test_loss": 0.504093587398529, + "covertype_test_accuracy": 0.7912499904632568, + "covertype_test_precision": 0.7965940237045288, + "covertype_test_recall": 0.7912499904632568, + "covertype_test_f1-score": 0.7910816669464111, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7912499904632568 + }, + "50": { + "covertype_test_loss": 0.48863619565963745, + "covertype_test_accuracy": 0.7990000247955322, + "covertype_test_precision": 0.801965594291687, + "covertype_test_recall": 0.7990000247955322, + "covertype_test_f1-score": 0.7978431582450867, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7990000247955322 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5774220824241638, + "lr": 0.0, + "covertype_val_accuracy": 0.7727727890014648, + "covertype_val_precision": 0.7654731869697571, + "covertype_val_recall": 0.7727727890014648, + "covertype_val_f1-score": 0.7676246762275696, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7727727890014648 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5836920738220215, + "lr": 0.0, + "covertype_test_accuracy": 0.7804999947547913, + "covertype_test_precision": 0.780738115310669, + "covertype_test_recall": 0.7804999947547913, + "covertype_test_f1-score": 0.780524492263794, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7804999947547913 + }, + "5": { + "covertype_test_loss": 0.566032350063324, + "covertype_test_accuracy": 0.7842105031013489, + "covertype_test_precision": 0.7849054336547852, + "covertype_test_recall": 0.7842105031013489, + "covertype_test_f1-score": 0.7840052843093872, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7842105031013489 + }, + "10": { + "covertype_test_loss": 0.5381242632865906, + "covertype_test_accuracy": 0.7916666865348816, + "covertype_test_precision": 0.7897905111312866, + "covertype_test_recall": 0.7916666865348816, + "covertype_test_f1-score": 0.7895801663398743, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7916666865348816 + }, + "20": { + "covertype_test_loss": 0.5110694169998169, + "covertype_test_accuracy": 0.7956249713897705, + "covertype_test_precision": 0.7921912670135498, + "covertype_test_recall": 0.7956249713897705, + "covertype_test_f1-score": 0.7931261658668518, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7956249713897705 + }, + "50": { + "covertype_test_loss": 0.47688448429107666, + "covertype_test_accuracy": 0.8019999861717224, + "covertype_test_precision": 0.8010667562484741, + "covertype_test_recall": 0.8019999861717224, + "covertype_test_f1-score": 0.8011044859886169, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8019999861717224 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5918245911598206, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.74964439868927, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7448657155036926, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5587985515594482, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7595000267028809, + "covertype_test_precision": 0.7647421956062317, + "covertype_test_recall": 0.7595000267028809, + "covertype_test_f1-score": 0.7590104937553406, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7595000267028809 + }, + "5": { + "covertype_test_loss": 0.54361492395401, + "covertype_test_accuracy": 0.7652631402015686, + "covertype_test_precision": 0.771149754524231, + "covertype_test_recall": 0.7652631402015686, + "covertype_test_f1-score": 0.7657798528671265, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7652631402015686 + }, + "10": { + "covertype_test_loss": 0.5226932764053345, + "covertype_test_accuracy": 0.7711111307144165, + "covertype_test_precision": 0.7751344442367554, + "covertype_test_recall": 0.7711111307144165, + "covertype_test_f1-score": 0.7713594436645508, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7711111307144165 + }, + "20": { + "covertype_test_loss": 0.5098187923431396, + "covertype_test_accuracy": 0.7774999737739563, + "covertype_test_precision": 0.7818838953971863, + "covertype_test_recall": 0.7774999737739563, + "covertype_test_f1-score": 0.7780666947364807, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7774999737739563 + }, + "50": { + "covertype_test_loss": 0.49895042181015015, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7853963971138, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7819900512695312, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5680929660797119, + "std": 0.012472805800271502, + "n": 5, + "ci95": 0.015484551118284123 + }, + "lr": { + "mean": 0.00020000003278255462, + "std": 0.0004472136688039785, + "n": 5, + "ci95": 0.0005552000910043715 + }, + "covertype_test_accuracy": { + "mean": 0.7748999953269958, + "std": 0.009376816361287234, + "n": 5, + "ci95": 0.01164098877174489 + }, + "covertype_test_precision": { + "mean": 0.7778703093528747, + "std": 0.0074873555639856995, + "n": 5, + "ci95": 0.009295289434297287 + }, + "covertype_test_recall": { + "mean": 0.7748999953269958, + "std": 0.009376816361287234, + "n": 5, + "ci95": 0.01164098877174489 + }, + "covertype_test_f1-score": { + "mean": 0.7743980526924134, + "std": 0.0093238795124283, + "n": 5, + "ci95": 0.011575269529793798 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7748999953269958, + "std": 0.009376816361287234, + "n": 5, + "ci95": 0.01164098877174489 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5491759538650512, + "std": 0.013571752294290683, + "n": 5, + "ci95": 0.01684885466276236 + }, + "covertype_test_accuracy": { + "mean": 0.7806315779685974, + "std": 0.00946930485096094, + "n": 5, + "ci95": 0.011755809989130814 + }, + "covertype_test_precision": { + "mean": 0.7844882369041443, + "std": 0.007682541253944313, + "n": 5, + "ci95": 0.009537605625386858 + }, + "covertype_test_recall": { + "mean": 0.7806315779685974, + "std": 0.00946930485096094, + "n": 5, + "ci95": 0.011755809989130814 + }, + "covertype_test_f1-score": { + "mean": 0.7805198669433594, + "std": 0.008909993001170596, + "n": 5, + "ci95": 0.011061443936469906 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7806315779685974, + "std": 0.00946930485096094, + "n": 5, + "ci95": 0.011755809989130814 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.523344999551773, + "std": 0.015292102800469703, + "n": 5, + "ci95": 0.01898460950260081 + }, + "covertype_test_accuracy": { + "mean": 0.7867777824401856, + "std": 0.010389030446098579, + "n": 5, + "ci95": 0.012897617070933776 + }, + "covertype_test_precision": { + "mean": 0.7888795495033264, + "std": 0.008225322199219546, + "n": 5, + "ci95": 0.010211449139647458 + }, + "covertype_test_recall": { + "mean": 0.7867777824401856, + "std": 0.010389030446098579, + "n": 5, + "ci95": 0.012897617070933776 + }, + "covertype_test_f1-score": { + "mean": 0.7859254240989685, + "std": 0.009548566628377938, + "n": 5, + "ci95": 0.011854210706963913 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7867777824401856, + "std": 0.010389030446098579, + "n": 5, + "ci95": 0.012897617070933776 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5043075144290924, + "std": 0.012976961454321572, + "n": 5, + "ci95": 0.0161104426876486 + }, + "covertype_test_accuracy": { + "mean": 0.7918749928474427, + "std": 0.009142972408391193, + "n": 5, + "ci95": 0.011350679702534373 + }, + "covertype_test_precision": { + "mean": 0.7938861012458801, + "std": 0.007474809404279528, + "n": 5, + "ci95": 0.009279713816876535 + }, + "covertype_test_recall": { + "mean": 0.7918749928474427, + "std": 0.009142972408391193, + "n": 5, + "ci95": 0.011350679702534373 + }, + "covertype_test_f1-score": { + "mean": 0.7913321495056153, + "std": 0.008498245541364616, + "n": 5, + "ci95": 0.010550273900530554 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7918749928474427, + "std": 0.009142972408391193, + "n": 5, + "ci95": 0.011350679702534373 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.48245733976364136, + "std": 0.011150200848511272, + "n": 5, + "ci95": 0.013842583439738114 + }, + "covertype_test_accuracy": { + "mean": 0.7991999983787537, + "std": 0.010134093006800111, + "n": 5, + "ci95": 0.01258112117786891 + }, + "covertype_test_precision": { + "mean": 0.8011805057525635, + "std": 0.009566948757647796, + "n": 5, + "ci95": 0.011877031475995356 + }, + "covertype_test_recall": { + "mean": 0.7991999983787537, + "std": 0.010134093006800111, + "n": 5, + "ci95": 0.01258112117786891 + }, + "covertype_test_f1-score": { + "mean": 0.7987470626831055, + "std": 0.010058425724123295, + "n": 5, + "ci95": 0.012487182899236744 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7991999983787537, + "std": 0.010134093006800111, + "n": 5, + "ci95": 0.01258112117786891 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..f48b03b2e3245c9fb875b7ed33485e564d6b940e --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:7d9960535851b6641b417667de396d5cfb42442f1e97fb74e2df54aa21f0550a +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..ca9aa4ea4b946623f40ed13c88c5789ec52dc5c8 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d305200a122046b17eae287f3967fa576ee20a6976a44d2a4794c44e4602ab8f +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..31331903910c205eab9cd2b956867297ea22967b --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:053ec5d6accc167c53dd4de3cb807d92300295832d80a33511b53156421f4227 +size 11507408 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/vtjepa_config.yaml b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..d523c90b1841b3356209a25bd39070f8b348b352 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q1-gpu2-delay50-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/vtjepa_config.yaml @@ -0,0 +1,131 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 25 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +predictive_target_detach: false +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 50 +vtjepa_kl_y_end_weight: 7.0e-08 +vtjepa_kl_y_start_epoch: 50 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..97f6e7222b3df8718f9baed5769336300c87c414 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "b8eee4631a2599941fc2db8b4cc17c3f383722749838b9bc7e0267e77537cf6e", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "6f549d93958ab1affbd2c77d8a8ce98e02e4150e008e9989bbcc31323e709a76", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 1e-07, + "start_epoch": 50, + "annealing_epochs": 50 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "25", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "1e-07", + "--vtjepa_kl_y_annealing_epochs", + "50", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "50", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..399baa99121eef19c503ce64f1398bc0d29c8053 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpzqup56ug", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpzqup56ug/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5902633666992188, + "lr": 0.0, + "covertype_val_accuracy": 0.7657657861709595, + "covertype_val_precision": 0.759695827960968, + "covertype_val_recall": 0.7657657861709595, + "covertype_val_f1-score": 0.7604009509086609, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7657657861709595 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5974569916725159, + "lr": 0.0, + "covertype_test_accuracy": 0.7590000033378601, + "covertype_test_precision": 0.7591803073883057, + "covertype_test_recall": 0.7590000033378601, + "covertype_test_f1-score": 0.7569896578788757, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7590000033378601 + }, + "5": { + "covertype_test_loss": 0.577203631401062, + "covertype_test_accuracy": 0.7657894492149353, + "covertype_test_precision": 0.7651771903038025, + "covertype_test_recall": 0.7657894492149353, + "covertype_test_f1-score": 0.7641498446464539, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7657894492149353 + }, + "10": { + "covertype_test_loss": 0.5676435232162476, + "covertype_test_accuracy": 0.7683333158493042, + "covertype_test_precision": 0.7677152156829834, + "covertype_test_recall": 0.7683333158493042, + "covertype_test_f1-score": 0.766859233379364, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7683333158493042 + }, + "20": { + "covertype_test_loss": 0.5204799771308899, + "covertype_test_accuracy": 0.7756249904632568, + "covertype_test_precision": 0.7755768299102783, + "covertype_test_recall": 0.7756249904632568, + "covertype_test_f1-score": 0.7743678092956543, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7756249904632568 + }, + "50": { + "covertype_test_loss": 0.5136148929595947, + "covertype_test_accuracy": 0.7770000100135803, + "covertype_test_precision": 0.7781602740287781, + "covertype_test_recall": 0.7770000100135803, + "covertype_test_f1-score": 0.7764983773231506, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7770000100135803 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6260383725166321, + "lr": 9.549149399390444e-05, + "covertype_val_accuracy": 0.7367367148399353, + "covertype_val_precision": 0.7383349537849426, + "covertype_val_recall": 0.7367367148399353, + "covertype_val_f1-score": 0.7342886924743652, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7367367148399353 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.615149974822998, + "lr": 9.549151582177728e-05, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7664530873298645, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7597542405128479, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7599999904632568 + }, + "5": { + "covertype_test_loss": 0.5876199007034302, + "covertype_test_accuracy": 0.7668421268463135, + "covertype_test_precision": 0.7745842337608337, + "covertype_test_recall": 0.7668421268463135, + "covertype_test_f1-score": 0.767243504524231, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7668421268463135 + }, + "10": { + "covertype_test_loss": 0.5703819990158081, + "covertype_test_accuracy": 0.772777795791626, + "covertype_test_precision": 0.7778484225273132, + "covertype_test_recall": 0.772777795791626, + "covertype_test_f1-score": 0.7727916836738586, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.772777795791626 + }, + "20": { + "covertype_test_loss": 0.5259746313095093, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7894518375396729, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7846213579177856, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7850000262260437 + }, + "50": { + "covertype_test_loss": 0.5068323016166687, + "covertype_test_accuracy": 0.796999990940094, + "covertype_test_precision": 0.8006322383880615, + "covertype_test_recall": 0.796999990940094, + "covertype_test_f1-score": 0.7959908843040466, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.796999990940094 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6157833933830261, + "lr": 7.783604087308049e-05, + "covertype_val_accuracy": 0.7647647857666016, + "covertype_val_precision": 0.7572338581085205, + "covertype_val_recall": 0.7647647857666016, + "covertype_val_f1-score": 0.7589547634124756, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7647647857666016 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6061609983444214, + "lr": 7.783602632116526e-05, + "covertype_test_accuracy": 0.7584999799728394, + "covertype_test_precision": 0.756181538105011, + "covertype_test_recall": 0.7584999799728394, + "covertype_test_f1-score": 0.7558639049530029, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7584999799728394 + }, + "5": { + "covertype_test_loss": 0.5842273235321045, + "covertype_test_accuracy": 0.7636842131614685, + "covertype_test_precision": 0.7619730234146118, + "covertype_test_recall": 0.7636842131614685, + "covertype_test_f1-score": 0.7614412903785706, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7636842131614685 + }, + "10": { + "covertype_test_loss": 0.5752213597297668, + "covertype_test_accuracy": 0.7644444704055786, + "covertype_test_precision": 0.7619933485984802, + "covertype_test_recall": 0.7644444704055786, + "covertype_test_f1-score": 0.7617282271385193, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7644444704055786 + }, + "20": { + "covertype_test_loss": 0.5387867093086243, + "covertype_test_accuracy": 0.7768750190734863, + "covertype_test_precision": 0.7762416005134583, + "covertype_test_recall": 0.7768750190734863, + "covertype_test_f1-score": 0.7744852900505066, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7768750190734863 + }, + "50": { + "covertype_test_loss": 0.5437088012695312, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7768233418464661, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7720512747764587, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7749999761581421 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6232518553733826, + "lr": 3.511175964376889e-05, + "covertype_val_accuracy": 0.7637637853622437, + "covertype_val_precision": 0.7583939433097839, + "covertype_val_recall": 0.7637637853622437, + "covertype_val_f1-score": 0.7597271203994751, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7637637853622437 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6104108095169067, + "lr": 3.511175964376889e-05, + "covertype_test_accuracy": 0.7465000152587891, + "covertype_test_precision": 0.746933102607727, + "covertype_test_recall": 0.7465000152587891, + "covertype_test_f1-score": 0.7447177767753601, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7465000152587891 + }, + "5": { + "covertype_test_loss": 0.5909066796302795, + "covertype_test_accuracy": 0.7526316046714783, + "covertype_test_precision": 0.7533105611801147, + "covertype_test_recall": 0.7526316046714783, + "covertype_test_f1-score": 0.7514511942863464, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7526316046714783 + }, + "10": { + "covertype_test_loss": 0.5789442658424377, + "covertype_test_accuracy": 0.757777750492096, + "covertype_test_precision": 0.7583552598953247, + "covertype_test_recall": 0.757777750492096, + "covertype_test_f1-score": 0.7567904591560364, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.757777750492096 + }, + "20": { + "covertype_test_loss": 0.5411052107810974, + "covertype_test_accuracy": 0.7681249976158142, + "covertype_test_precision": 0.767586886882782, + "covertype_test_recall": 0.7681249976158142, + "covertype_test_f1-score": 0.7670757174491882, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7681249976158142 + }, + "50": { + "covertype_test_loss": 0.5492282509803772, + "covertype_test_accuracy": 0.765999972820282, + "covertype_test_precision": 0.7648365497589111, + "covertype_test_recall": 0.765999972820282, + "covertype_test_f1-score": 0.7647665739059448, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.765999972820282 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6143719553947449, + "lr": 2.4471739379805513e-05, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.7550780177116394, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.7568398714065552, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6013303995132446, + "lr": 2.4471744836773723e-05, + "covertype_test_accuracy": 0.762499988079071, + "covertype_test_precision": 0.7595176100730896, + "covertype_test_recall": 0.762499988079071, + "covertype_test_f1-score": 0.7598949074745178, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.762499988079071 + }, + "5": { + "covertype_test_loss": 0.5839941501617432, + "covertype_test_accuracy": 0.7689473628997803, + "covertype_test_precision": 0.7667131423950195, + "covertype_test_recall": 0.7689473628997803, + "covertype_test_f1-score": 0.7668004035949707, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7689473628997803 + }, + "10": { + "covertype_test_loss": 0.5726008415222168, + "covertype_test_accuracy": 0.772777795791626, + "covertype_test_precision": 0.7685723304748535, + "covertype_test_recall": 0.772777795791626, + "covertype_test_f1-score": 0.7698900103569031, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.772777795791626 + }, + "20": { + "covertype_test_loss": 0.5284804701805115, + "covertype_test_accuracy": 0.784375011920929, + "covertype_test_precision": 0.780131995677948, + "covertype_test_recall": 0.784375011920929, + "covertype_test_f1-score": 0.7808694839477539, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.784375011920929 + }, + "50": { + "covertype_test_loss": 0.5235977172851562, + "covertype_test_accuracy": 0.7929999828338623, + "covertype_test_precision": 0.7918121218681335, + "covertype_test_recall": 0.7929999828338623, + "covertype_test_f1-score": 0.7908308506011963, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7929999828338623 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6061018347740174, + "std": 0.0070345488253727596, + "n": 5, + "ci95": 0.008733145743211922 + }, + "lr": { + "mean": 4.658220932469703e-05, + "std": 3.9240500188575506e-05, + "n": 5, + "ci95": 4.8715705255653767e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7572999954223633, + "std": 0.006230960163136862, + "n": 5, + "ci95": 0.00773551859197427 + }, + "covertype_test_precision": { + "mean": 0.7576531291007995, + "std": 0.007076941000923562, + "n": 5, + "ci95": 0.008785774142935535 + }, + "covertype_test_recall": { + "mean": 0.7572999954223633, + "std": 0.006230960163136862, + "n": 5, + "ci95": 0.00773551859197427 + }, + "covertype_test_f1-score": { + "mean": 0.7554440975189209, + "std": 0.0062451179670734705, + "n": 5, + "ci95": 0.007753095009204648 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7572999954223633, + "std": 0.006230960163136862, + "n": 5, + "ci95": 0.00773551859197427 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5847903370857239, + "std": 0.005097182491684658, + "n": 5, + "ci95": 0.0063279733618554265 + }, + "covertype_test_accuracy": { + "mean": 0.7635789513587952, + "std": 0.00640722125900013, + "n": 5, + "ci95": 0.007954340562969772 + }, + "covertype_test_precision": { + "mean": 0.7643516302108765, + "std": 0.007722166799331136, + "n": 5, + "ci95": 0.009586799350756878 + }, + "covertype_test_recall": { + "mean": 0.7635789513587952, + "std": 0.00640722125900013, + "n": 5, + "ci95": 0.007954340562969772 + }, + "covertype_test_f1-score": { + "mean": 0.7622172474861145, + "std": 0.006452005937080674, + "n": 5, + "ci95": 0.008009939170705572 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7635789513587952, + "std": 0.00640722125900013, + "n": 5, + "ci95": 0.007954340562969772 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5729583978652955, + "std": 0.004357900352952007, + "n": 5, + "ci95": 0.005410180505031586 + }, + "covertype_test_accuracy": { + "mean": 0.7672222256660461, + "std": 0.0063221293057446094, + "n": 5, + "ci95": 0.007848701886232653 + }, + "covertype_test_precision": { + "mean": 0.766896915435791, + "std": 0.00742322344947406, + "n": 5, + "ci95": 0.00921567166253197 + }, + "covertype_test_recall": { + "mean": 0.7672222256660461, + "std": 0.0063221293057446094, + "n": 5, + "ci95": 0.007848701886232653 + }, + "covertype_test_f1-score": { + "mean": 0.7656119227409363, + "std": 0.006409135976176699, + "n": 5, + "ci95": 0.00795671761721662 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7672222256660461, + "std": 0.0063221293057446094, + "n": 5, + "ci95": 0.007848701886232653 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5309653997421264, + "std": 0.008732344803250938, + "n": 5, + "ci95": 0.010840899926901655 + }, + "covertype_test_accuracy": { + "mean": 0.778000009059906, + "std": 0.006965326062525557, + "n": 5, + "ci95": 0.008647208110010494 + }, + "covertype_test_precision": { + "mean": 0.7777978301048278, + "std": 0.007951136272622452, + "n": 5, + "ci95": 0.009871056924431985 + }, + "covertype_test_recall": { + "mean": 0.778000009059906, + "std": 0.006965326062525557, + "n": 5, + "ci95": 0.008647208110010494 + }, + "covertype_test_f1-score": { + "mean": 0.7762839317321777, + "std": 0.00674977429056856, + "n": 5, + "ci95": 0.0083796081421322 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.778000009059906, + "std": 0.006965326062525557, + "n": 5, + "ci95": 0.008647208110010494 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5273963928222656, + "std": 0.01850652737144023, + "n": 5, + "ci95": 0.022975204913296476 + }, + "covertype_test_accuracy": { + "mean": 0.7815999865531922, + "std": 0.012992309265125112, + "n": 5, + "ci95": 0.01612949645668395 + }, + "covertype_test_precision": { + "mean": 0.7824529051780701, + "std": 0.013951144547616905, + "n": 5, + "ci95": 0.017319856844194785 + }, + "covertype_test_recall": { + "mean": 0.7815999865531922, + "std": 0.012992309265125112, + "n": 5, + "ci95": 0.01612949645668395 + }, + "covertype_test_f1-score": { + "mean": 0.7800275921821594, + "std": 0.013043319780079814, + "n": 5, + "ci95": 0.016192824222628074 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7815999865531922, + "std": 0.012992309265125112, + "n": 5, + "ci95": 0.01612949645668395 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..03f25822a6b03b057e05b1e077fc9c0971ba78bc --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp8rn4r_lo", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp8rn4r_lo/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5643948316574097, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.7697697877883911, + "covertype_val_precision": 0.7616265416145325, + "covertype_val_recall": 0.7697697877883911, + "covertype_val_f1-score": 0.764670193195343, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7697697877883911 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5725823640823364, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.7935000061988831, + "covertype_test_precision": 0.7926455140113831, + "covertype_test_recall": 0.7935000061988831, + "covertype_test_f1-score": 0.7921378016471863, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7935000061988831 + }, + "5": { + "covertype_test_loss": 0.5573745965957642, + "covertype_test_accuracy": 0.801578938961029, + "covertype_test_precision": 0.8008124232292175, + "covertype_test_recall": 0.801578938961029, + "covertype_test_f1-score": 0.8002920150756836, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.801578938961029 + }, + "10": { + "covertype_test_loss": 0.5477136373519897, + "covertype_test_accuracy": 0.8066666722297668, + "covertype_test_precision": 0.8042216300964355, + "covertype_test_recall": 0.8066666722297668, + "covertype_test_f1-score": 0.8049401640892029, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8066666722297668 + }, + "20": { + "covertype_test_loss": 0.4959878623485565, + "covertype_test_accuracy": 0.8162500262260437, + "covertype_test_precision": 0.8146600127220154, + "covertype_test_recall": 0.8162500262260437, + "covertype_test_f1-score": 0.8143618702888489, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8162500262260437 + }, + "50": { + "covertype_test_loss": 0.5131272077560425, + "covertype_test_accuracy": 0.8130000233650208, + "covertype_test_precision": 0.8129360675811768, + "covertype_test_recall": 0.8130000233650208, + "covertype_test_f1-score": 0.8119539618492126, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8130000233650208 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5483644008636475, + "lr": 0.0, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7631938457489014, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7642579674720764, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5769016146659851, + "lr": 0.0, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.785650908946991, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7834277153015137, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7860000133514404 + }, + "5": { + "covertype_test_loss": 0.5570922493934631, + "covertype_test_accuracy": 0.7973684072494507, + "covertype_test_precision": 0.7954029440879822, + "covertype_test_recall": 0.7973684072494507, + "covertype_test_f1-score": 0.7953994870185852, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7973684072494507 + }, + "10": { + "covertype_test_loss": 0.5405937433242798, + "covertype_test_accuracy": 0.801111102104187, + "covertype_test_precision": 0.7994489073753357, + "covertype_test_recall": 0.801111102104187, + "covertype_test_f1-score": 0.7995816469192505, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.801111102104187 + }, + "20": { + "covertype_test_loss": 0.5028597712516785, + "covertype_test_accuracy": 0.8087499737739563, + "covertype_test_precision": 0.8078817129135132, + "covertype_test_recall": 0.8087499737739563, + "covertype_test_f1-score": 0.8071820735931396, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8087499737739563 + }, + "50": { + "covertype_test_loss": 0.5123039484024048, + "covertype_test_accuracy": 0.8140000104904175, + "covertype_test_precision": 0.8148393630981445, + "covertype_test_recall": 0.8140000104904175, + "covertype_test_f1-score": 0.8125452995300293, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8140000104904175 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.566017746925354, + "lr": 0.0, + "covertype_val_accuracy": 0.7807807922363281, + "covertype_val_precision": 0.7733249068260193, + "covertype_val_recall": 0.7807807922363281, + "covertype_val_f1-score": 0.7757177352905273, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7807807922363281 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5838240385055542, + "lr": 0.0, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.785524845123291, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7847941517829895, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7860000133514404 + }, + "5": { + "covertype_test_loss": 0.5677820444107056, + "covertype_test_accuracy": 0.7931578755378723, + "covertype_test_precision": 0.7913671731948853, + "covertype_test_recall": 0.7931578755378723, + "covertype_test_f1-score": 0.7918146848678589, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7931578755378723 + }, + "10": { + "covertype_test_loss": 0.5574871897697449, + "covertype_test_accuracy": 0.7988888621330261, + "covertype_test_precision": 0.7970343232154846, + "covertype_test_recall": 0.7988888621330261, + "covertype_test_f1-score": 0.7975009083747864, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7988888621330261 + }, + "20": { + "covertype_test_loss": 0.4955172836780548, + "covertype_test_accuracy": 0.8037499785423279, + "covertype_test_precision": 0.8023149371147156, + "covertype_test_recall": 0.8037499785423279, + "covertype_test_f1-score": 0.8024903535842896, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8037499785423279 + }, + "50": { + "covertype_test_loss": 0.4943564236164093, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.8023521900177002, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.801882803440094, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5850849151611328, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7727727890014648, + "covertype_val_precision": 0.7711768746376038, + "covertype_val_recall": 0.7727727890014648, + "covertype_val_f1-score": 0.7698349952697754, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7727727890014648 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.566884458065033, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7875000238418579, + "covertype_test_precision": 0.7862138748168945, + "covertype_test_recall": 0.7875000238418579, + "covertype_test_f1-score": 0.7858836054801941, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7875000238418579 + }, + "5": { + "covertype_test_loss": 0.5505977869033813, + "covertype_test_accuracy": 0.7952631711959839, + "covertype_test_precision": 0.7933269739151001, + "covertype_test_recall": 0.7952631711959839, + "covertype_test_f1-score": 0.7938928008079529, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7952631711959839 + }, + "10": { + "covertype_test_loss": 0.5411385893821716, + "covertype_test_accuracy": 0.7994444370269775, + "covertype_test_precision": 0.7975836992263794, + "covertype_test_recall": 0.7994444370269775, + "covertype_test_f1-score": 0.7978470921516418, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7994444370269775 + }, + "20": { + "covertype_test_loss": 0.48769232630729675, + "covertype_test_accuracy": 0.8056250214576721, + "covertype_test_precision": 0.804399847984314, + "covertype_test_recall": 0.8056250214576721, + "covertype_test_f1-score": 0.8045175075531006, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8056250214576721 + }, + "50": { + "covertype_test_loss": 0.4746054708957672, + "covertype_test_accuracy": 0.8080000281333923, + "covertype_test_precision": 0.8079772591590881, + "covertype_test_recall": 0.8080000281333923, + "covertype_test_f1-score": 0.8065323829650879, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8080000281333923 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5746156573295593, + "lr": 0.0, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7559740543365479, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.759671151638031, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5796288251876831, + "lr": 0.0, + "covertype_test_accuracy": 0.7885000109672546, + "covertype_test_precision": 0.7860493659973145, + "covertype_test_recall": 0.7885000109672546, + "covertype_test_f1-score": 0.783861517906189, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7885000109672546 + }, + "5": { + "covertype_test_loss": 0.5570306181907654, + "covertype_test_accuracy": 0.7973684072494507, + "covertype_test_precision": 0.7939574122428894, + "covertype_test_recall": 0.7973684072494507, + "covertype_test_f1-score": 0.7939009070396423, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7973684072494507 + }, + "10": { + "covertype_test_loss": 0.5438283085823059, + "covertype_test_accuracy": 0.801111102104187, + "covertype_test_precision": 0.7981061339378357, + "covertype_test_recall": 0.801111102104187, + "covertype_test_f1-score": 0.7982823252677917, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.801111102104187 + }, + "20": { + "covertype_test_loss": 0.4900587499141693, + "covertype_test_accuracy": 0.8056250214576721, + "covertype_test_precision": 0.8036903738975525, + "covertype_test_recall": 0.8056250214576721, + "covertype_test_f1-score": 0.8033429384231567, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8056250214576721 + }, + "50": { + "covertype_test_loss": 0.47824719548225403, + "covertype_test_accuracy": 0.8140000104904175, + "covertype_test_precision": 0.8131089210510254, + "covertype_test_recall": 0.8140000104904175, + "covertype_test_f1-score": 0.8119872808456421, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8140000104904175 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5759642601013184, + "std": 0.006518508516469383, + "n": 5, + "ci95": 0.008092499791509897 + }, + "lr": { + "mean": 2.5598045795049983e-06, + "std": 3.9120596111996765e-06, + "n": 5, + "ci95": 4.8566848548285345e-06 + }, + "covertype_test_accuracy": { + "mean": 0.7883000135421753, + "std": 0.003094345967859272, + "n": 5, + "ci95": 0.0038415220347558267 + }, + "covertype_test_precision": { + "mean": 0.7872169017791748, + "std": 0.0030477214002365073, + "n": 5, + "ci95": 0.0037836392686578504 + }, + "covertype_test_recall": { + "mean": 0.7883000135421753, + "std": 0.003094345967859272, + "n": 5, + "ci95": 0.0038415220347558267 + }, + "covertype_test_f1-score": { + "mean": 0.7860209584236145, + "std": 0.003547103911112774, + "n": 5, + "ci95": 0.004403605148113161 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7883000135421753, + "std": 0.003094345967859272, + "n": 5, + "ci95": 0.0038415220347558267 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.557975459098816, + "std": 0.006177236072374661, + "n": 5, + "ci95": 0.0076688220168001 + }, + "covertype_test_accuracy": { + "mean": 0.7969473600387573, + "std": 0.003122609872409108, + "n": 5, + "ci95": 0.003876610681353268 + }, + "covertype_test_precision": { + "mean": 0.7949733853340148, + "std": 0.0035716425541812142, + "n": 5, + "ci95": 0.004434069013184991 + }, + "covertype_test_recall": { + "mean": 0.7969473600387573, + "std": 0.003122609872409108, + "n": 5, + "ci95": 0.003876610681353268 + }, + "covertype_test_f1-score": { + "mean": 0.7950599789619446, + "std": 0.0031908914873952352, + "n": 5, + "ci95": 0.003961379912480771 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7969473600387573, + "std": 0.003122609872409108, + "n": 5, + "ci95": 0.003876610681353268 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5461522936820984, + "std": 0.006934574302089859, + "n": 5, + "ci95": 0.008609030877552225 + }, + "covertype_test_accuracy": { + "mean": 0.8014444351196289, + "std": 0.0030832177953127155, + "n": 5, + "ci95": 0.0038277067986806773 + }, + "covertype_test_precision": { + "mean": 0.7992789387702942, + "std": 0.0029045952449264028, + "n": 5, + "ci95": 0.0036059531646847934 + }, + "covertype_test_recall": { + "mean": 0.8014444351196289, + "std": 0.0030832177953127155, + "n": 5, + "ci95": 0.0038277067986806773 + }, + "covertype_test_f1-score": { + "mean": 0.7996304273605347, + "std": 0.003071164212868516, + "n": 5, + "ci95": 0.0038127426986614508 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8014444351196289, + "std": 0.0030832177953127155, + "n": 5, + "ci95": 0.0038277067986806773 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.49442319869995116, + "std": 0.005898601678852531, + "n": 5, + "ci95": 0.0073229071858555185 + }, + "covertype_test_accuracy": { + "mean": 0.8080000042915344, + "std": 0.004948967617989842, + "n": 5, + "ci95": 0.00614396979241258 + }, + "covertype_test_precision": { + "mean": 0.8065893769264221, + "std": 0.0049566719102203125, + "n": 5, + "ci95": 0.006153534401112759 + }, + "covertype_test_recall": { + "mean": 0.8080000042915344, + "std": 0.004948967617989842, + "n": 5, + "ci95": 0.00614396979241258 + }, + "covertype_test_f1-score": { + "mean": 0.8063789486885071, + "std": 0.00480040467580821, + "n": 5, + "ci95": 0.005959534108146245 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8080000042915344, + "std": 0.004948967617989842, + "n": 5, + "ci95": 0.00614396979241258 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4945280492305756, + "std": 0.018192828744142128, + "n": 5, + "ci95": 0.02258575906543221 + }, + "covertype_test_accuracy": { + "mean": 0.8104000091552734, + "std": 0.004827021149848129, + "n": 5, + "ci95": 0.005992577527522714 + }, + "covertype_test_precision": { + "mean": 0.810242760181427, + "std": 0.005098802154547037, + "n": 5, + "ci95": 0.006329984116515485 + }, + "covertype_test_recall": { + "mean": 0.8104000091552734, + "std": 0.004827021149848129, + "n": 5, + "ci95": 0.005992577527522714 + }, + "covertype_test_f1-score": { + "mean": 0.8089803457260132, + "std": 0.004662632718375597, + "n": 5, + "ci95": 0.0057884950531258495 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8104000091552734, + "std": 0.004827021149848129, + "n": 5, + "ci95": 0.005992577527522714 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..1f751b4f6a48d53ccfc38d5fe82c2b142821c354 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpp_haxs_z", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpp_haxs_z/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6006806492805481, + "lr": 0.0, + "covertype_val_accuracy": 0.7297297120094299, + "covertype_val_precision": 0.7333835959434509, + "covertype_val_recall": 0.7297297120094299, + "covertype_val_f1-score": 0.7261115312576294, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7297297120094299 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5902908444404602, + "lr": 0.0, + "covertype_test_accuracy": 0.7379999756813049, + "covertype_test_precision": 0.740564227104187, + "covertype_test_recall": 0.7379999756813049, + "covertype_test_f1-score": 0.7344433069229126, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7379999756813049 + }, + "5": { + "covertype_test_loss": 0.5714128017425537, + "covertype_test_accuracy": 0.746842086315155, + "covertype_test_precision": 0.7504197359085083, + "covertype_test_recall": 0.746842086315155, + "covertype_test_f1-score": 0.744035005569458, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.746842086315155 + }, + "10": { + "covertype_test_loss": 0.5577682256698608, + "covertype_test_accuracy": 0.7522222399711609, + "covertype_test_precision": 0.7531687021255493, + "covertype_test_recall": 0.7522222399711609, + "covertype_test_f1-score": 0.748614490032196, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7522222399711609 + }, + "20": { + "covertype_test_loss": 0.5233473777770996, + "covertype_test_accuracy": 0.7612500190734863, + "covertype_test_precision": 0.7651475667953491, + "covertype_test_recall": 0.7612500190734863, + "covertype_test_f1-score": 0.7586296200752258, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7612500190734863 + }, + "50": { + "covertype_test_loss": 0.5109148621559143, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.7652083039283752, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.7631941437721252, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7649999856948853 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5830367803573608, + "lr": 0.0, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7512391805648804, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7501264214515686, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5844742059707642, + "lr": 0.0, + "covertype_test_accuracy": 0.7425000071525574, + "covertype_test_precision": 0.7412444949150085, + "covertype_test_recall": 0.7425000071525574, + "covertype_test_f1-score": 0.738745927810669, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7425000071525574 + }, + "5": { + "covertype_test_loss": 0.5706722736358643, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.7500008344650269, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.7471255660057068, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.75 + }, + "10": { + "covertype_test_loss": 0.5512245297431946, + "covertype_test_accuracy": 0.7561110854148865, + "covertype_test_precision": 0.7536745071411133, + "covertype_test_recall": 0.7561110854148865, + "covertype_test_f1-score": 0.7528123259544373, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7561110854148865 + }, + "20": { + "covertype_test_loss": 0.5206167697906494, + "covertype_test_accuracy": 0.7668750286102295, + "covertype_test_precision": 0.7626174092292786, + "covertype_test_recall": 0.7668750286102295, + "covertype_test_f1-score": 0.7627801895141602, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7668750286102295 + }, + "50": { + "covertype_test_loss": 0.5097140669822693, + "covertype_test_accuracy": 0.7739999890327454, + "covertype_test_precision": 0.7738094925880432, + "covertype_test_recall": 0.7739999890327454, + "covertype_test_f1-score": 0.7724553942680359, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7739999890327454 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5630471110343933, + "lr": 0.0, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7709537744522095, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7667814493179321, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5473234057426453, + "lr": 0.0, + "covertype_test_accuracy": 0.7774999737739563, + "covertype_test_precision": 0.7793662548065186, + "covertype_test_recall": 0.7774999737739563, + "covertype_test_f1-score": 0.7755720615386963, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7774999737739563 + }, + "5": { + "covertype_test_loss": 0.5234822630882263, + "covertype_test_accuracy": 0.7878947257995605, + "covertype_test_precision": 0.7889912724494934, + "covertype_test_recall": 0.7878947257995605, + "covertype_test_f1-score": 0.7864001989364624, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7878947257995605 + }, + "10": { + "covertype_test_loss": 0.5039858818054199, + "covertype_test_accuracy": 0.7927777767181396, + "covertype_test_precision": 0.7936055064201355, + "covertype_test_recall": 0.7927777767181396, + "covertype_test_f1-score": 0.7912289500236511, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7927777767181396 + }, + "20": { + "covertype_test_loss": 0.4702095091342926, + "covertype_test_accuracy": 0.8031250238418579, + "covertype_test_precision": 0.8057242035865784, + "covertype_test_recall": 0.8031250238418579, + "covertype_test_f1-score": 0.8020105957984924, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8031250238418579 + }, + "50": { + "covertype_test_loss": 0.45724448561668396, + "covertype_test_accuracy": 0.8159999847412109, + "covertype_test_precision": 0.817998468875885, + "covertype_test_recall": 0.8159999847412109, + "covertype_test_f1-score": 0.8151379823684692, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8159999847412109 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5903710126876831, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7521083950996399, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.747666597366333, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5683965086936951, + "lr": 0.0, + "covertype_test_accuracy": 0.7574999928474426, + "covertype_test_precision": 0.7542502880096436, + "covertype_test_recall": 0.7574999928474426, + "covertype_test_f1-score": 0.7525643110275269, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7574999928474426 + }, + "5": { + "covertype_test_loss": 0.5515661835670471, + "covertype_test_accuracy": 0.7673684358596802, + "covertype_test_precision": 0.7649731040000916, + "covertype_test_recall": 0.7673684358596802, + "covertype_test_f1-score": 0.7635859847068787, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7673684358596802 + }, + "10": { + "covertype_test_loss": 0.5398317575454712, + "covertype_test_accuracy": 0.7688888907432556, + "covertype_test_precision": 0.7651553153991699, + "covertype_test_recall": 0.7688888907432556, + "covertype_test_f1-score": 0.7647777795791626, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7688888907432556 + }, + "20": { + "covertype_test_loss": 0.5075662136077881, + "covertype_test_accuracy": 0.7774999737739563, + "covertype_test_precision": 0.7748787999153137, + "covertype_test_recall": 0.7774999737739563, + "covertype_test_f1-score": 0.7741597294807434, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7774999737739563 + }, + "50": { + "covertype_test_loss": 0.4979408383369446, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7809251546859741, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7808542251586914, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5884644389152527, + "lr": 0.0, + "covertype_val_accuracy": 0.7587587833404541, + "covertype_val_precision": 0.7600108981132507, + "covertype_val_recall": 0.7587587833404541, + "covertype_val_f1-score": 0.7545272707939148, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7587587833404541 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5840518474578857, + "lr": 0.0, + "covertype_test_accuracy": 0.746999979019165, + "covertype_test_precision": 0.7499681115150452, + "covertype_test_recall": 0.746999979019165, + "covertype_test_f1-score": 0.7448754906654358, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.746999979019165 + }, + "5": { + "covertype_test_loss": 0.5671512484550476, + "covertype_test_accuracy": 0.7563157677650452, + "covertype_test_precision": 0.7600677013397217, + "covertype_test_recall": 0.7563157677650452, + "covertype_test_f1-score": 0.754646360874176, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7563157677650452 + }, + "10": { + "covertype_test_loss": 0.5524841547012329, + "covertype_test_accuracy": 0.7605555653572083, + "covertype_test_precision": 0.7616099119186401, + "covertype_test_recall": 0.7605555653572083, + "covertype_test_f1-score": 0.7582534551620483, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7605555653572083 + }, + "20": { + "covertype_test_loss": 0.5193531513214111, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7692611217498779, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7676278948783875, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7699999809265137 + }, + "50": { + "covertype_test_loss": 0.5103425979614258, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.7799886465072632, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.7771152853965759, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.777999997138977 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5749073624610901, + "std": 0.017428880510737474, + "n": 5, + "ci95": 0.021637344116839027 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7524999856948853, + "std": 0.015736100296398357, + "n": 5, + "ci95": 0.019535816827735926 + }, + "covertype_test_precision": { + "mean": 0.7530786752700805, + "std": 0.01580145846704829, + "n": 5, + "ci95": 0.019616956705212768 + }, + "covertype_test_recall": { + "mean": 0.7524999856948853, + "std": 0.015736100296398357, + "n": 5, + "ci95": 0.019535816827735926 + }, + "covertype_test_f1-score": { + "mean": 0.7492402195930481, + "std": 0.016221475944779466, + "n": 5, + "ci95": 0.02013839367846858 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7524999856948853, + "std": 0.015736100296398357, + "n": 5, + "ci95": 0.019535816827735926 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5568569540977478, + "std": 0.020313606915706547, + "n": 5, + "ci95": 0.025218630813296315 + }, + "covertype_test_accuracy": { + "mean": 0.7616842031478882, + "std": 0.016620252201252978, + "n": 5, + "ci95": 0.020633460420226693 + }, + "covertype_test_precision": { + "mean": 0.7628905296325683, + "std": 0.01593125221681133, + "n": 5, + "ci95": 0.019778091095118508 + }, + "covertype_test_recall": { + "mean": 0.7616842031478882, + "std": 0.016620252201252978, + "n": 5, + "ci95": 0.020633460420226693 + }, + "covertype_test_f1-score": { + "mean": 0.7591586232185363, + "std": 0.0169969391765917, + "n": 5, + "ci95": 0.021101104093881683 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7616842031478882, + "std": 0.016620252201252978, + "n": 5, + "ci95": 0.020633460420226693 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5410589098930358, + "std": 0.021731271212610415, + "n": 5, + "ci95": 0.026978611336162823 + }, + "covertype_test_accuracy": { + "mean": 0.7661111116409302, + "std": 0.01614460016826708, + "n": 5, + "ci95": 0.02004295509710801 + }, + "covertype_test_precision": { + "mean": 0.7654427886009216, + "std": 0.01656093224119762, + "n": 5, + "ci95": 0.020559816769510048 + }, + "covertype_test_recall": { + "mean": 0.7661111116409302, + "std": 0.01614460016826708, + "n": 5, + "ci95": 0.02004295509710801 + }, + "covertype_test_f1-score": { + "mean": 0.7631374001502991, + "std": 0.016831525577428168, + "n": 5, + "ci95": 0.020895748909737687 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7661111116409302, + "std": 0.01614460016826708, + "n": 5, + "ci95": 0.02004295509710801 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5082186043262482, + "std": 0.022088964217217295, + "n": 5, + "ci95": 0.027422674661061807 + }, + "covertype_test_accuracy": { + "mean": 0.7757500052452088, + "std": 0.016390024572401105, + "n": 5, + "ci95": 0.020347640890532696 + }, + "covertype_test_precision": { + "mean": 0.7755258202552795, + "std": 0.017506731980888944, + "n": 5, + "ci95": 0.021733993987645785 + }, + "covertype_test_recall": { + "mean": 0.7757500052452088, + "std": 0.016390024572401105, + "n": 5, + "ci95": 0.020347640890532696 + }, + "covertype_test_f1-score": { + "mean": 0.7730416059494019, + "std": 0.017195659661404197, + "n": 5, + "ci95": 0.021347808608856364 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7757500052452088, + "std": 0.016390024572401105, + "n": 5, + "ci95": 0.020347640890532696 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.49723137021064756, + "std": 0.022991380168415333, + "n": 5, + "ci95": 0.028542992426770695 + }, + "covertype_test_accuracy": { + "mean": 0.7829999923706055, + "std": 0.019493586916180604, + "n": 5, + "ci95": 0.02420060473287755 + }, + "covertype_test_precision": { + "mean": 0.7835860133171082, + "std": 0.020233381292722705, + "n": 5, + "ci95": 0.025119033514983336 + }, + "covertype_test_recall": { + "mean": 0.7829999923706055, + "std": 0.019493586916180604, + "n": 5, + "ci95": 0.02420060473287755 + }, + "covertype_test_f1-score": { + "mean": 0.7817514061927795, + "std": 0.019797410467243273, + "n": 5, + "ci95": 0.02457779101980476 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7829999923706055, + "std": 0.019493586916180604, + "n": 5, + "ci95": 0.02420060473287755 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..8eb7b4f5b2f7117c66ef0a1130c458f192d6d54e --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp9sonf0x9", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp9sonf0x9/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 3.3979198932647705, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.5505505800247192, + "covertype_val_precision": 0.7142139673233032, + "covertype_val_recall": 0.5505505800247192, + "covertype_val_f1-score": 0.6089262366294861, + "covertype_val_support": 999.0, + "covertype_val_score": 0.5505505800247192 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 3.3530280590057373, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.5274999737739563, + "covertype_test_precision": 0.6836864352226257, + "covertype_test_recall": 0.5274999737739563, + "covertype_test_f1-score": 0.5821532607078552, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.5274999737739563 + }, + "5": { + "covertype_test_loss": 3.326655626296997, + "covertype_test_accuracy": 0.5310526490211487, + "covertype_test_precision": 0.694111704826355, + "covertype_test_recall": 0.5310526490211487, + "covertype_test_f1-score": 0.5921531319618225, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.5310526490211487 + }, + "10": { + "covertype_test_loss": 3.407677412033081, + "covertype_test_accuracy": 0.5305555462837219, + "covertype_test_precision": 0.6960052251815796, + "covertype_test_recall": 0.5305555462837219, + "covertype_test_f1-score": 0.5932117104530334, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.5305555462837219 + }, + "20": { + "covertype_test_loss": 3.516852617263794, + "covertype_test_accuracy": 0.5418750047683716, + "covertype_test_precision": 0.7060492038726807, + "covertype_test_recall": 0.5418750047683716, + "covertype_test_f1-score": 0.6033264398574829, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.5418750047683716 + }, + "50": { + "covertype_test_loss": 3.221191883087158, + "covertype_test_accuracy": 0.6150000095367432, + "covertype_test_precision": 0.717379629611969, + "covertype_test_recall": 0.6150000095367432, + "covertype_test_f1-score": 0.6515161991119385, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6150000095367432 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.643377423286438, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7327327132225037, + "covertype_val_precision": 0.7385028600692749, + "covertype_val_recall": 0.7327327132225037, + "covertype_val_f1-score": 0.7260662913322449, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7327327132225037 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.623436689376831, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7245000004768372, + "covertype_test_precision": 0.7302173376083374, + "covertype_test_recall": 0.7245000004768372, + "covertype_test_f1-score": 0.7165849804878235, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7245000004768372 + }, + "5": { + "covertype_test_loss": 0.6058615446090698, + "covertype_test_accuracy": 0.7352631688117981, + "covertype_test_precision": 0.7411807179450989, + "covertype_test_recall": 0.7352631688117981, + "covertype_test_f1-score": 0.730685293674469, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7352631688117981 + }, + "10": { + "covertype_test_loss": 0.5940253138542175, + "covertype_test_accuracy": 0.7377777695655823, + "covertype_test_precision": 0.7410801649093628, + "covertype_test_recall": 0.7377777695655823, + "covertype_test_f1-score": 0.7334703207015991, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7377777695655823 + }, + "20": { + "covertype_test_loss": 0.5628945827484131, + "covertype_test_accuracy": 0.7481250166893005, + "covertype_test_precision": 0.749295711517334, + "covertype_test_recall": 0.7481250166893005, + "covertype_test_f1-score": 0.7439834475517273, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7481250166893005 + }, + "50": { + "covertype_test_loss": 0.5463099479675293, + "covertype_test_accuracy": 0.7559999823570251, + "covertype_test_precision": 0.7568200826644897, + "covertype_test_recall": 0.7559999823570251, + "covertype_test_f1-score": 0.753352701663971, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7559999823570251 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6639447212219238, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7217217087745667, + "covertype_val_precision": 0.7440999150276184, + "covertype_val_recall": 0.7217217087745667, + "covertype_val_f1-score": 0.7149566411972046, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7217217087745667 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6547819375991821, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7149999737739563, + "covertype_test_precision": 0.72710120677948, + "covertype_test_recall": 0.7149999737739563, + "covertype_test_f1-score": 0.7071186304092407, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7149999737739563 + }, + "5": { + "covertype_test_loss": 0.6344240307807922, + "covertype_test_accuracy": 0.7247368693351746, + "covertype_test_precision": 0.7309477925300598, + "covertype_test_recall": 0.7247368693351746, + "covertype_test_f1-score": 0.7171404361724854, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7247368693351746 + }, + "10": { + "covertype_test_loss": 0.6105194687843323, + "covertype_test_accuracy": 0.7372221946716309, + "covertype_test_precision": 0.7365707159042358, + "covertype_test_recall": 0.7372221946716309, + "covertype_test_f1-score": 0.7287808060646057, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7372221946716309 + }, + "20": { + "covertype_test_loss": 0.5673198103904724, + "covertype_test_accuracy": 0.7524999976158142, + "covertype_test_precision": 0.7409626245498657, + "covertype_test_recall": 0.7524999976158142, + "covertype_test_f1-score": 0.7450515031814575, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7524999976158142 + }, + "50": { + "covertype_test_loss": 0.5438646078109741, + "covertype_test_accuracy": 0.7609999775886536, + "covertype_test_precision": 0.7529945969581604, + "covertype_test_recall": 0.7609999775886536, + "covertype_test_f1-score": 0.7541253566741943, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7609999775886536 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.7211273908615112, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6866866946220398, + "covertype_val_precision": 0.6737417578697205, + "covertype_val_recall": 0.6866866946220398, + "covertype_val_f1-score": 0.6664323806762695, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6866866946220398 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7096103429794312, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6740000247955322, + "covertype_test_precision": 0.6750795841217041, + "covertype_test_recall": 0.6740000247955322, + "covertype_test_f1-score": 0.654915452003479, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6740000247955322 + }, + "5": { + "covertype_test_loss": 0.6891049742698669, + "covertype_test_accuracy": 0.6831579208374023, + "covertype_test_precision": 0.6948254704475403, + "covertype_test_recall": 0.6831579208374023, + "covertype_test_f1-score": 0.6690390110015869, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6831579208374023 + }, + "10": { + "covertype_test_loss": 0.6737874746322632, + "covertype_test_accuracy": 0.6866666674613953, + "covertype_test_precision": 0.7086778283119202, + "covertype_test_recall": 0.6866666674613953, + "covertype_test_f1-score": 0.6750808954238892, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6866666674613953 + }, + "20": { + "covertype_test_loss": 0.6415401697158813, + "covertype_test_accuracy": 0.6943749785423279, + "covertype_test_precision": 0.7183728814125061, + "covertype_test_recall": 0.6943749785423279, + "covertype_test_f1-score": 0.684070348739624, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6943749785423279 + }, + "50": { + "covertype_test_loss": 0.5988702774047852, + "covertype_test_accuracy": 0.7070000171661377, + "covertype_test_precision": 0.732383131980896, + "covertype_test_recall": 0.7070000171661377, + "covertype_test_f1-score": 0.697040855884552, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7070000171661377 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.775905430316925, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6886886954307556, + "covertype_val_precision": 0.7273190021514893, + "covertype_val_recall": 0.6886886954307556, + "covertype_val_f1-score": 0.6780044436454773, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6886886954307556 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.767323911190033, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6809999942779541, + "covertype_test_precision": 0.7005581259727478, + "covertype_test_recall": 0.6809999942779541, + "covertype_test_f1-score": 0.6695737838745117, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6809999942779541 + }, + "5": { + "covertype_test_loss": 0.7498211860656738, + "covertype_test_accuracy": 0.6889473795890808, + "covertype_test_precision": 0.7065584063529968, + "covertype_test_recall": 0.6889473795890808, + "covertype_test_f1-score": 0.6827245950698853, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6889473795890808 + }, + "10": { + "covertype_test_loss": 0.7427313923835754, + "covertype_test_accuracy": 0.6905555725097656, + "covertype_test_precision": 0.7034956216812134, + "covertype_test_recall": 0.6905555725097656, + "covertype_test_f1-score": 0.6874197721481323, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6905555725097656 + }, + "20": { + "covertype_test_loss": 0.7142090797424316, + "covertype_test_accuracy": 0.6956250071525574, + "covertype_test_precision": 0.7148013114929199, + "covertype_test_recall": 0.6956250071525574, + "covertype_test_f1-score": 0.6953489780426025, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6956250071525574 + }, + "50": { + "covertype_test_loss": 0.6969992518424988, + "covertype_test_accuracy": 0.6930000185966492, + "covertype_test_precision": 0.7247117161750793, + "covertype_test_recall": 0.6930000185966492, + "covertype_test_f1-score": 0.7007619142532349, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6930000185966492 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 1.2216361880302429, + "std": 1.1927455512355836, + "n": 5, + "ci95": 1.4807517855213732 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.6643999934196472, + "std": 0.07950110827849363, + "n": 5, + "ci95": 0.09869783870697153 + }, + "covertype_test_precision": { + "mean": 0.703328537940979, + "std": 0.024897982372131852, + "n": 5, + "ci95": 0.030909972219323782 + }, + "covertype_test_recall": { + "mean": 0.6643999934196472, + "std": 0.07950110827849363, + "n": 5, + "ci95": 0.09869783870697153 + }, + "covertype_test_f1-score": { + "mean": 0.666069221496582, + "std": 0.05342160818667168, + "n": 5, + "ci95": 0.06632105366135475 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6643999934196472, + "std": 0.07950110827849363, + "n": 5, + "ci95": 0.09869783870697153 + } + }, + "5": { + "covertype_test_loss": { + "mean": 1.20117347240448, + "std": 1.1894545641424192, + "n": 5, + "ci95": 1.476666140423571 + }, + "covertype_test_accuracy": { + "mean": 0.6726315975189209, + "std": 0.08224852575967766, + "n": 5, + "ci95": 0.10210866118844843 + }, + "covertype_test_precision": { + "mean": 0.7135248184204102, + "std": 0.021467849778589638, + "n": 5, + "ci95": 0.026651582861089665 + }, + "covertype_test_recall": { + "mean": 0.6726315975189209, + "std": 0.08224852575967766, + "n": 5, + "ci95": 0.10210866118844843 + }, + "covertype_test_f1-score": { + "mean": 0.6783484935760498, + "std": 0.054266501059223975, + "n": 5, + "ci95": 0.06736995854162037 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6726315975189209, + "std": 0.08224852575967766, + "n": 5, + "ci95": 0.10210866118844843 + } + }, + "10": { + "covertype_test_loss": { + "mean": 1.2057482123374939, + "std": 1.2323109554991423, + "n": 5, + "ci95": 1.529870847795342 + }, + "covertype_test_accuracy": { + "mean": 0.6765555500984192, + "std": 0.0852097974941784, + "n": 5, + "ci95": 0.10578497622792482 + }, + "covertype_test_precision": { + "mean": 0.7171659111976624, + "std": 0.020341687340888412, + "n": 5, + "ci95": 0.025253491676691 + }, + "covertype_test_recall": { + "mean": 0.6765555500984192, + "std": 0.0852097974941784, + "n": 5, + "ci95": 0.10578497622792482 + }, + "covertype_test_f1-score": { + "mean": 0.683592700958252, + "std": 0.056536630927250225, + "n": 5, + "ci95": 0.07018824518453681 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6765555500984192, + "std": 0.0852097974941784, + "n": 5, + "ci95": 0.10578497622792482 + } + }, + "20": { + "covertype_test_loss": { + "mean": 1.2005632519721985, + "std": 1.2963277169681573, + "n": 5, + "ci95": 1.60934541280239 + }, + "covertype_test_accuracy": { + "mean": 0.6865000009536744, + "std": 0.08546243715160617, + "n": 5, + "ci95": 0.10609861950535492 + }, + "covertype_test_precision": { + "mean": 0.7258963465690613, + "std": 0.018358474995833176, + "n": 5, + "ci95": 0.022791403079532577 + }, + "covertype_test_recall": { + "mean": 0.6865000009536744, + "std": 0.08546243715160617, + "n": 5, + "ci95": 0.10609861950535492 + }, + "covertype_test_f1-score": { + "mean": 0.6943561434745789, + "std": 0.05793547928558326, + "n": 5, + "ci95": 0.0719248663793336 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6865000009536744, + "std": 0.08546243715160617, + "n": 5, + "ci95": 0.10609861950535492 + } + }, + "50": { + "covertype_test_loss": { + "mean": 1.1214471936225892, + "std": 1.1754312979022046, + "n": 5, + "ci95": 1.459256747026523 + }, + "covertype_test_accuracy": { + "mean": 0.7064000010490418, + "std": 0.05910836146729142, + "n": 5, + "ci95": 0.07338095848797441 + }, + "covertype_test_precision": { + "mean": 0.7368578314781189, + "std": 0.017362589618698066, + "n": 5, + "ci95": 0.021555046298457337 + }, + "covertype_test_recall": { + "mean": 0.7064000010490418, + "std": 0.05910836146729142, + "n": 5, + "ci95": 0.07338095848797441 + }, + "covertype_test_f1-score": { + "mean": 0.7113594055175781, + "std": 0.04327499433035199, + "n": 5, + "ci95": 0.053724388287774406 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7064000010490418, + "std": 0.05910836146729142, + "n": 5, + "ci95": 0.07338095848797441 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..bc9ed9ba1a739fa25d494634ce6b2ebcf674c433 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp0mqt6gm2", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp0mqt6gm2/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5844722986221313, + "lr": 0.0, + "covertype_val_accuracy": 0.7577577829360962, + "covertype_val_precision": 0.7577980160713196, + "covertype_val_recall": 0.7577577829360962, + "covertype_val_f1-score": 0.7572274804115295, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7577577829360962 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5531100034713745, + "lr": 0.0, + "covertype_test_accuracy": 0.7904999852180481, + "covertype_test_precision": 0.7912155389785767, + "covertype_test_recall": 0.7904999852180481, + "covertype_test_f1-score": 0.7905485033988953, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7904999852180481 + }, + "5": { + "covertype_test_loss": 0.5270452499389648, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.8011687397956848, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7999352216720581, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.800000011920929 + }, + "10": { + "covertype_test_loss": 0.504204273223877, + "covertype_test_accuracy": 0.804444432258606, + "covertype_test_precision": 0.8038937449455261, + "covertype_test_recall": 0.804444432258606, + "covertype_test_f1-score": 0.8039414882659912, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.804444432258606 + }, + "20": { + "covertype_test_loss": 0.47092095017433167, + "covertype_test_accuracy": 0.8118749856948853, + "covertype_test_precision": 0.8120363354682922, + "covertype_test_recall": 0.8118749856948853, + "covertype_test_f1-score": 0.811680257320404, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8118749856948853 + }, + "50": { + "covertype_test_loss": 0.4736962914466858, + "covertype_test_accuracy": 0.8090000152587891, + "covertype_test_precision": 0.8099243640899658, + "covertype_test_recall": 0.8090000152587891, + "covertype_test_f1-score": 0.8087677955627441, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8090000152587891 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6139246225357056, + "lr": 0.0, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7405762672424316, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7455472350120544, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5752562880516052, + "lr": 0.0, + "covertype_test_accuracy": 0.7770000100135803, + "covertype_test_precision": 0.7793547511100769, + "covertype_test_recall": 0.7770000100135803, + "covertype_test_f1-score": 0.7748997807502747, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7770000100135803 + }, + "5": { + "covertype_test_loss": 0.5598028302192688, + "covertype_test_accuracy": 0.7842105031013489, + "covertype_test_precision": 0.7879264950752258, + "covertype_test_recall": 0.7842105031013489, + "covertype_test_f1-score": 0.7835156917572021, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7842105031013489 + }, + "10": { + "covertype_test_loss": 0.5344099998474121, + "covertype_test_accuracy": 0.7894444465637207, + "covertype_test_precision": 0.7910211682319641, + "covertype_test_recall": 0.7894444465637207, + "covertype_test_f1-score": 0.7882299423217773, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7894444465637207 + }, + "20": { + "covertype_test_loss": 0.495561420917511, + "covertype_test_accuracy": 0.7962499856948853, + "covertype_test_precision": 0.7987961173057556, + "covertype_test_recall": 0.7962499856948853, + "covertype_test_f1-score": 0.7956165075302124, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7962499856948853 + }, + "50": { + "covertype_test_loss": 0.4515220820903778, + "covertype_test_accuracy": 0.8069999814033508, + "covertype_test_precision": 0.8077117204666138, + "covertype_test_recall": 0.8069999814033508, + "covertype_test_f1-score": 0.8057906627655029, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8069999814033508 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6290889978408813, + "lr": 0.0, + "covertype_val_accuracy": 0.7437437176704407, + "covertype_val_precision": 0.7446576356887817, + "covertype_val_recall": 0.7437437176704407, + "covertype_val_f1-score": 0.7392749786376953, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7437437176704407 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.569794237613678, + "lr": 0.0, + "covertype_test_accuracy": 0.7630000114440918, + "covertype_test_precision": 0.7691643834114075, + "covertype_test_recall": 0.7630000114440918, + "covertype_test_f1-score": 0.7612138986587524, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7630000114440918 + }, + "5": { + "covertype_test_loss": 0.5495864748954773, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7794761657714844, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7695248126983643, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7699999809265137 + }, + "10": { + "covertype_test_loss": 0.5317943692207336, + "covertype_test_accuracy": 0.7744444608688354, + "covertype_test_precision": 0.7832446098327637, + "covertype_test_recall": 0.7744444608688354, + "covertype_test_f1-score": 0.7739527821540833, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7744444608688354 + }, + "20": { + "covertype_test_loss": 0.5011656880378723, + "covertype_test_accuracy": 0.7831249833106995, + "covertype_test_precision": 0.7929058074951172, + "covertype_test_recall": 0.7831249833106995, + "covertype_test_f1-score": 0.783011257648468, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7831249833106995 + }, + "50": { + "covertype_test_loss": 0.4861537516117096, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7910995483398438, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7843126058578491, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7860000133514404 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5887174606323242, + "lr": 0.0, + "covertype_val_accuracy": 0.781781792640686, + "covertype_val_precision": 0.7739396691322327, + "covertype_val_recall": 0.781781792640686, + "covertype_val_f1-score": 0.774790346622467, + "covertype_val_support": 999.0, + "covertype_val_score": 0.781781792640686 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5811685919761658, + "lr": 0.0, + "covertype_test_accuracy": 0.7754999995231628, + "covertype_test_precision": 0.7744312286376953, + "covertype_test_recall": 0.7754999995231628, + "covertype_test_f1-score": 0.7732236385345459, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7754999995231628 + }, + "5": { + "covertype_test_loss": 0.5589408278465271, + "covertype_test_accuracy": 0.7826315760612488, + "covertype_test_precision": 0.780963659286499, + "covertype_test_recall": 0.7826315760612488, + "covertype_test_f1-score": 0.7809741497039795, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7826315760612488 + }, + "10": { + "covertype_test_loss": 0.5415909290313721, + "covertype_test_accuracy": 0.7855555415153503, + "covertype_test_precision": 0.7831927537918091, + "covertype_test_recall": 0.7855555415153503, + "covertype_test_f1-score": 0.7834925651550293, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7855555415153503 + }, + "20": { + "covertype_test_loss": 0.5072388052940369, + "covertype_test_accuracy": 0.7887499928474426, + "covertype_test_precision": 0.7882680296897888, + "covertype_test_recall": 0.7887499928474426, + "covertype_test_f1-score": 0.7871752977371216, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7887499928474426 + }, + "50": { + "covertype_test_loss": 0.49451231956481934, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.792387843132019, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7902225852012634, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7910000085830688 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6133456230163574, + "lr": 0.0, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7520171999931335, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7533662915229797, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5722419619560242, + "lr": 0.0, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.7779354453086853, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.776735246181488, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7760000228881836 + }, + "5": { + "covertype_test_loss": 0.5530580282211304, + "covertype_test_accuracy": 0.7815789580345154, + "covertype_test_precision": 0.7841455936431885, + "covertype_test_recall": 0.7815789580345154, + "covertype_test_f1-score": 0.7826716899871826, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7815789580345154 + }, + "10": { + "covertype_test_loss": 0.5334530472755432, + "covertype_test_accuracy": 0.7866666913032532, + "covertype_test_precision": 0.7874376773834229, + "covertype_test_recall": 0.7866666913032532, + "covertype_test_f1-score": 0.786895215511322, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7866666913032532 + }, + "20": { + "covertype_test_loss": 0.4988524615764618, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.796062171459198, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7953917980194092, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7950000166893005 + }, + "50": { + "covertype_test_loss": 0.5150576233863831, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7892013788223267, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.786900520324707, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5703142166137696, + "std": 0.010514431329350914, + "n": 5, + "ci95": 0.013053297871075514 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7764000058174133, + "std": 0.009742936813560853, + "n": 5, + "ci95": 0.012095514477465149 + }, + "covertype_test_precision": { + "mean": 0.7784202694892883, + "std": 0.008161052409027718, + "n": 5, + "ci95": 0.010131660448351943 + }, + "covertype_test_recall": { + "mean": 0.7764000058174133, + "std": 0.009742936813560853, + "n": 5, + "ci95": 0.012095514477465149 + }, + "covertype_test_f1-score": { + "mean": 0.7753242135047913, + "std": 0.010457814774338551, + "n": 5, + "ci95": 0.012983010402941359 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7764000058174133, + "std": 0.009742936813560853, + "n": 5, + "ci95": 0.012095514477465149 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5496866822242736, + "std": 0.013341534138958753, + "n": 5, + "ci95": 0.016563046894111238 + }, + "covertype_test_accuracy": { + "mean": 0.7836842060089111, + "std": 0.010715416769009419, + "n": 5, + "ci95": 0.013302814248084702 + }, + "covertype_test_precision": { + "mean": 0.7867361307144165, + "std": 0.008695639307726708, + "n": 5, + "ci95": 0.010795331341062331 + }, + "covertype_test_recall": { + "mean": 0.7836842060089111, + "std": 0.010715416769009419, + "n": 5, + "ci95": 0.013302814248084702 + }, + "covertype_test_f1-score": { + "mean": 0.7833243131637573, + "std": 0.010866626726241096, + "n": 5, + "ci95": 0.013490536108734252 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7836842060089111, + "std": 0.010715416769009419, + "n": 5, + "ci95": 0.013302814248084702 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5290905237197876, + "std": 0.014406811021518416, + "n": 5, + "ci95": 0.017885550796381763 + }, + "covertype_test_accuracy": { + "mean": 0.7881111145019531, + "std": 0.010769746706876781, + "n": 5, + "ci95": 0.013370262961199602 + }, + "covertype_test_precision": { + "mean": 0.7897579908370972, + "std": 0.0085487643176749, + "n": 5, + "ci95": 0.010612991190187443 + }, + "covertype_test_recall": { + "mean": 0.7881111145019531, + "std": 0.010769746706876781, + "n": 5, + "ci95": 0.013370262961199602 + }, + "covertype_test_f1-score": { + "mean": 0.7873023986816406, + "std": 0.010846802875362832, + "n": 5, + "ci95": 0.013465925492871136 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7881111145019531, + "std": 0.010769746706876781, + "n": 5, + "ci95": 0.013370262961199602 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.4947478652000427, + "std": 0.013986095759456163, + "n": 5, + "ci95": 0.01736324754834246 + }, + "covertype_test_accuracy": { + "mean": 0.7949999928474426, + "std": 0.010798219960000435, + "n": 5, + "ci95": 0.013405611506711906 + }, + "covertype_test_precision": { + "mean": 0.7976136922836303, + "std": 0.008962750285675591, + "n": 5, + "ci95": 0.01112694025557091 + }, + "covertype_test_recall": { + "mean": 0.7949999928474426, + "std": 0.010798219960000435, + "n": 5, + "ci95": 0.013405611506711906 + }, + "covertype_test_f1-score": { + "mean": 0.7945750236511231, + "std": 0.010986553778213415, + "n": 5, + "ci95": 0.013639421339248309 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7949999928474426, + "std": 0.010798219960000435, + "n": 5, + "ci95": 0.013405611506711906 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4841884136199951, + "std": 0.02366710555963188, + "n": 5, + "ci95": 0.029381881809782445 + }, + "covertype_test_accuracy": { + "mean": 0.7956000089645385, + "std": 0.011567185198105094, + "n": 5, + "ci95": 0.014360254890749519 + }, + "covertype_test_precision": { + "mean": 0.7980649709701538, + "std": 0.009912304723045976, + "n": 5, + "ci95": 0.012305778799239664 + }, + "covertype_test_recall": { + "mean": 0.7956000089645385, + "std": 0.011567185198105094, + "n": 5, + "ci95": 0.014360254890749519 + }, + "covertype_test_f1-score": { + "mean": 0.7951988339424133, + "std": 0.011274291325981452, + "n": 5, + "ci95": 0.013996637417042681 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7956000089645385, + "std": 0.011567185198105094, + "n": 5, + "ci95": 0.014360254890749519 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/embedding.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..f3f08b824716ac08b27b81a0957e965a2e342fce --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:a3e58e2aa5cf155a44972aa8c6e79f93fe511193b5b971c3e2601fb9e2ab6e9e +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/uncertainty.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..06ee6dbf5457b4bd24600f3813ded1ae85c06aee --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d5d87ba7fab0d371f2e4c3179fe831d2737e173263eee2c119b75a971dfedaf3 +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..6cf2399592221fb0c2fc08a61b04d83a98871239 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:0cbb8b06db15ea508d967aafc55fa0a3f1ae53eb3af85fd997009cc0cd6b4d80 +size 11508624 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/vtjepa_config.yaml b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..1d208d87bc3ba0072bd740f114f378752027fbad --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q2-gpu2-delay50-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032511/vtjepa_config.yaml @@ -0,0 +1,131 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 25 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +predictive_target_detach: false +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 50 +vtjepa_kl_y_end_weight: 1.0e-07 +vtjepa_kl_y_start_epoch: 50 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..de10e64960e3e4aedc3629ec655ca4cf0f278718 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "b8eee4631a2599941fc2db8b4cc17c3f383722749838b9bc7e0267e77537cf6e", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "6f549d93958ab1affbd2c77d8a8ce98e02e4150e008e9989bbcc31323e709a76", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 5e-08, + "start_epoch": 40, + "annealing_epochs": 50 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "25", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "5e-08", + "--vtjepa_kl_y_annealing_epochs", + "50", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "40", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..e64395b69a2fe4c9e9048132d905d3ffe20c7e6d --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpgbilp61y", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpgbilp61y/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6421273946762085, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.746583104133606, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7461978793144226, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6250464916229248, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7540000081062317, + "covertype_test_precision": 0.7534760236740112, + "covertype_test_recall": 0.7540000081062317, + "covertype_test_f1-score": 0.752255916595459, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7540000081062317 + }, + "5": { + "covertype_test_loss": 0.5955246090888977, + "covertype_test_accuracy": 0.7626315951347351, + "covertype_test_precision": 0.761559784412384, + "covertype_test_recall": 0.7626315951347351, + "covertype_test_f1-score": 0.7605788111686707, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7626315951347351 + }, + "10": { + "covertype_test_loss": 0.5794561505317688, + "covertype_test_accuracy": 0.7655555605888367, + "covertype_test_precision": 0.7645512223243713, + "covertype_test_recall": 0.7655555605888367, + "covertype_test_f1-score": 0.7641094326972961, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7655555605888367 + }, + "20": { + "covertype_test_loss": 0.5632988214492798, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.7654394507408142, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.7639538645744324, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7649999856948853 + }, + "50": { + "covertype_test_loss": 0.5307658910751343, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7743434906005859, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7743881940841675, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7749999761581421 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6570240259170532, + "lr": 6.18466583546251e-05, + "covertype_val_accuracy": 0.7367367148399353, + "covertype_val_precision": 0.7437878847122192, + "covertype_val_recall": 0.7367367148399353, + "covertype_val_f1-score": 0.7329126596450806, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7367367148399353 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6131031513214111, + "lr": 6.184667290654033e-05, + "covertype_test_accuracy": 0.7534999847412109, + "covertype_test_precision": 0.7592723965644836, + "covertype_test_recall": 0.7534999847412109, + "covertype_test_f1-score": 0.7516085505485535, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7534999847412109 + }, + "5": { + "covertype_test_loss": 0.5831943154335022, + "covertype_test_accuracy": 0.7594736814498901, + "covertype_test_precision": 0.7641730904579163, + "covertype_test_recall": 0.7594736814498901, + "covertype_test_f1-score": 0.7582969665527344, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7594736814498901 + }, + "10": { + "covertype_test_loss": 0.5753886103630066, + "covertype_test_accuracy": 0.7633333206176758, + "covertype_test_precision": 0.7686273455619812, + "covertype_test_recall": 0.7633333206176758, + "covertype_test_f1-score": 0.7629255056381226, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7633333206176758 + }, + "20": { + "covertype_test_loss": 0.5593767762184143, + "covertype_test_accuracy": 0.762499988079071, + "covertype_test_precision": 0.7698600888252258, + "covertype_test_recall": 0.762499988079071, + "covertype_test_f1-score": 0.7624737024307251, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.762499988079071 + }, + "50": { + "covertype_test_loss": 0.5136887431144714, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7826159000396729, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7792003750801086, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6092925667762756, + "lr": 9.549149399390444e-05, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7617877125740051, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.752357542514801, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5925545692443848, + "lr": 9.549151582177728e-05, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7533329129219055, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7496583461761475, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7519999742507935 + }, + "5": { + "covertype_test_loss": 0.5701761841773987, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7608659267425537, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7575002312660217, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7599999904632568 + }, + "10": { + "covertype_test_loss": 0.55203777551651, + "covertype_test_accuracy": 0.7661111354827881, + "covertype_test_precision": 0.7672026753425598, + "covertype_test_recall": 0.7661111354827881, + "covertype_test_f1-score": 0.7636420726776123, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7661111354827881 + }, + "20": { + "covertype_test_loss": 0.524305522441864, + "covertype_test_accuracy": 0.7731249928474426, + "covertype_test_precision": 0.7736881375312805, + "covertype_test_recall": 0.7731249928474426, + "covertype_test_f1-score": 0.7707529067993164, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7731249928474426 + }, + "50": { + "covertype_test_loss": 0.4897005558013916, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7952860593795776, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7940166592597961, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7950000166893005 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6194961071014404, + "lr": 0.0, + "covertype_val_accuracy": 0.7727727890014648, + "covertype_val_precision": 0.775015652179718, + "covertype_val_recall": 0.7727727890014648, + "covertype_val_f1-score": 0.7712490558624268, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7727727890014648 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5946754217147827, + "lr": 0.0, + "covertype_test_accuracy": 0.765500009059906, + "covertype_test_precision": 0.7673213481903076, + "covertype_test_recall": 0.765500009059906, + "covertype_test_f1-score": 0.7646660208702087, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.765500009059906 + }, + "5": { + "covertype_test_loss": 0.5683995485305786, + "covertype_test_accuracy": 0.7763158082962036, + "covertype_test_precision": 0.7758080959320068, + "covertype_test_recall": 0.7763158082962036, + "covertype_test_f1-score": 0.7749854922294617, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7763158082962036 + }, + "10": { + "covertype_test_loss": 0.5537299513816833, + "covertype_test_accuracy": 0.7805555462837219, + "covertype_test_precision": 0.7823686599731445, + "covertype_test_recall": 0.7805555462837219, + "covertype_test_f1-score": 0.7800633311271667, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7805555462837219 + }, + "20": { + "covertype_test_loss": 0.5243098735809326, + "covertype_test_accuracy": 0.7856249809265137, + "covertype_test_precision": 0.7895827889442444, + "covertype_test_recall": 0.7856249809265137, + "covertype_test_f1-score": 0.7856743931770325, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7856249809265137 + }, + "50": { + "covertype_test_loss": 0.4887479841709137, + "covertype_test_accuracy": 0.8090000152587891, + "covertype_test_precision": 0.810644268989563, + "covertype_test_recall": 0.8090000152587891, + "covertype_test_f1-score": 0.8089929819107056, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8090000152587891 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6125930547714233, + "lr": 1.5708421415183693e-05, + "covertype_val_accuracy": 0.7467467188835144, + "covertype_val_precision": 0.7450020909309387, + "covertype_val_recall": 0.7467467188835144, + "covertype_val_f1-score": 0.7431650757789612, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7467467188835144 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6009932160377502, + "lr": 1.5708415958215483e-05, + "covertype_test_accuracy": 0.7574999928474426, + "covertype_test_precision": 0.7580342888832092, + "covertype_test_recall": 0.7574999928474426, + "covertype_test_f1-score": 0.7566041946411133, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7574999928474426 + }, + "5": { + "covertype_test_loss": 0.5679444670677185, + "covertype_test_accuracy": 0.769473671913147, + "covertype_test_precision": 0.7696375250816345, + "covertype_test_recall": 0.769473671913147, + "covertype_test_f1-score": 0.7685445547103882, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.769473671913147 + }, + "10": { + "covertype_test_loss": 0.5502551198005676, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.774887204170227, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7743583917617798, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7749999761581421 + }, + "20": { + "covertype_test_loss": 0.5365679264068604, + "covertype_test_accuracy": 0.78125, + "covertype_test_precision": 0.7825330495834351, + "covertype_test_recall": 0.78125, + "covertype_test_f1-score": 0.7811809182167053, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.78125 + }, + "50": { + "covertype_test_loss": 0.512546181678772, + "covertype_test_accuracy": 0.8009999990463257, + "covertype_test_precision": 0.8004387617111206, + "covertype_test_recall": 0.8009999990463257, + "covertype_test_f1-score": 0.800234854221344, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8009999990463257 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6052745699882507, + "std": 0.01364446706099195, + "n": 5, + "ci95": 0.01693912749632282 + }, + "lr": { + "mean": 3.6380595702212304e-05, + "std": 4.0777112190989876e-05, + "n": 5, + "ci95": 5.0623355184736785e-05 + }, + "covertype_test_accuracy": { + "mean": 0.756499993801117, + "std": 0.005419880799854616, + "n": 5, + "ci95": 0.006728591998003256 + }, + "covertype_test_precision": { + "mean": 0.7582873940467835, + "std": 0.005708388295564763, + "n": 5, + "ci95": 0.007086763939174237 + }, + "covertype_test_recall": { + "mean": 0.756499993801117, + "std": 0.005419880799854616, + "n": 5, + "ci95": 0.006728591998003256 + }, + "covertype_test_f1-score": { + "mean": 0.7549586057662964, + "std": 0.005990868492623603, + "n": 5, + "ci95": 0.007437453200380034 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.756499993801117, + "std": 0.005419880799854616, + "n": 5, + "ci95": 0.006728591998003256 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5770478248596191, + "std": 0.012083606188204934, + "n": 5, + "ci95": 0.01500137344481069 + }, + "covertype_test_accuracy": { + "mean": 0.7655789494514466, + "std": 0.0072030371916449384, + "n": 5, + "ci95": 0.008942318142923376 + }, + "covertype_test_precision": { + "mean": 0.7664088845252991, + "std": 0.006285026310766598, + "n": 5, + "ci95": 0.007802639818757351 + }, + "covertype_test_recall": { + "mean": 0.7655789494514466, + "std": 0.0072030371916449384, + "n": 5, + "ci95": 0.008942318142923376 + }, + "covertype_test_f1-score": { + "mean": 0.7639812111854554, + "std": 0.007546661001014933, + "n": 5, + "ci95": 0.009368915055186161 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7655789494514466, + "std": 0.0072030371916449384, + "n": 5, + "ci95": 0.008942318142923376 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5621735215187073, + "std": 0.014048161462987731, + "n": 5, + "ci95": 0.017440299943322097 + }, + "covertype_test_accuracy": { + "mean": 0.7701111078262329, + "std": 0.007342998656611149, + "n": 5, + "ci95": 0.009116075394785025 + }, + "covertype_test_precision": { + "mean": 0.7715274214744567, + "std": 0.0071519545568564415, + "n": 5, + "ci95": 0.00887890084273404 + }, + "covertype_test_recall": { + "mean": 0.7701111078262329, + "std": 0.007342998656611149, + "n": 5, + "ci95": 0.009116075394785025 + }, + "covertype_test_f1-score": { + "mean": 0.7690197467803955, + "std": 0.0077561624485326455, + "n": 5, + "ci95": 0.009629003757390755 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7701111078262329, + "std": 0.007342998656611149, + "n": 5, + "ci95": 0.009116075394785025 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5415717840194703, + "std": 0.01877643359734812, + "n": 5, + "ci95": 0.023310284030147864 + }, + "covertype_test_accuracy": { + "mean": 0.7734999895095825, + "std": 0.010005858262537673, + "n": 5, + "ci95": 0.012421922238635159 + }, + "covertype_test_precision": { + "mean": 0.776220703125, + "std": 0.009765983833959904, + "n": 5, + "ci95": 0.01212412654528757 + }, + "covertype_test_recall": { + "mean": 0.7734999895095825, + "std": 0.010005858262537673, + "n": 5, + "ci95": 0.012421922238635159 + }, + "covertype_test_f1-score": { + "mean": 0.7728071570396423, + "std": 0.010308572376241307, + "n": 5, + "ci95": 0.012797731197976765 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7734999895095825, + "std": 0.010005858262537673, + "n": 5, + "ci95": 0.012421922238635159 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5070898711681366, + "std": 0.017837344684202252, + "n": 5, + "ci95": 0.022144438067894158 + }, + "covertype_test_accuracy": { + "mean": 0.7917999982833862, + "std": 0.014463763497842032, + "n": 5, + "ci95": 0.01795625529904681 + }, + "covertype_test_precision": { + "mean": 0.792665696144104, + "std": 0.01438069496820303, + "n": 5, + "ci95": 0.017853128631790605 + }, + "covertype_test_recall": { + "mean": 0.7917999982833862, + "std": 0.014463763497842032, + "n": 5, + "ci95": 0.01795625529904681 + }, + "covertype_test_f1-score": { + "mean": 0.7913666129112243, + "std": 0.014427763015452136, + "n": 5, + "ci95": 0.01791156196229678 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7917999982833862, + "std": 0.014463763497842032, + "n": 5, + "ci95": 0.01795625529904681 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..554dcea4d29da03056ec3acf88e88a42faa2d271 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpe94ijeom", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpe94ijeom/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.568942666053772, + "lr": 0.0, + "covertype_val_accuracy": 0.7747747898101807, + "covertype_val_precision": 0.7709493041038513, + "covertype_val_recall": 0.7747747898101807, + "covertype_val_f1-score": 0.7702142596244812, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7747747898101807 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5712617039680481, + "lr": 0.0, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7873267531394958, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7855865359306335, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7870000004768372 + }, + "5": { + "covertype_test_loss": 0.5437373518943787, + "covertype_test_accuracy": 0.7994737029075623, + "covertype_test_precision": 0.798958957195282, + "covertype_test_recall": 0.7994737029075623, + "covertype_test_f1-score": 0.7977790832519531, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7994737029075623 + }, + "10": { + "covertype_test_loss": 0.528553307056427, + "covertype_test_accuracy": 0.8050000071525574, + "covertype_test_precision": 0.8044504523277283, + "covertype_test_recall": 0.8050000071525574, + "covertype_test_f1-score": 0.803950846195221, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8050000071525574 + }, + "20": { + "covertype_test_loss": 0.50810706615448, + "covertype_test_accuracy": 0.8106250166893005, + "covertype_test_precision": 0.8114566802978516, + "covertype_test_recall": 0.8106250166893005, + "covertype_test_f1-score": 0.8099098801612854, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8106250166893005 + }, + "50": { + "covertype_test_loss": 0.47183433175086975, + "covertype_test_accuracy": 0.8259999752044678, + "covertype_test_precision": 0.8264530301094055, + "covertype_test_recall": 0.8259999752044678, + "covertype_test_f1-score": 0.8252192735671997, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8259999752044678 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5756953954696655, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7757757902145386, + "covertype_val_precision": 0.7502200603485107, + "covertype_val_recall": 0.7757757902145386, + "covertype_val_f1-score": 0.7592545747756958, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7757757902145386 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5996050834655762, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7889037132263184, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.7778571844100952, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5751577019691467, + "covertype_test_accuracy": 0.7989473938941956, + "covertype_test_precision": 0.7940002083778381, + "covertype_test_recall": 0.7989473938941956, + "covertype_test_f1-score": 0.7935023903846741, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7989473938941956 + }, + "10": { + "covertype_test_loss": 0.5611539483070374, + "covertype_test_accuracy": 0.8055555820465088, + "covertype_test_precision": 0.8033517003059387, + "covertype_test_recall": 0.8055555820465088, + "covertype_test_f1-score": 0.8028886914253235, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8055555820465088 + }, + "20": { + "covertype_test_loss": 0.5491493344306946, + "covertype_test_accuracy": 0.8081250190734863, + "covertype_test_precision": 0.8084084987640381, + "covertype_test_recall": 0.8081250190734863, + "covertype_test_f1-score": 0.8068720102310181, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8081250190734863 + }, + "50": { + "covertype_test_loss": 0.5307208895683289, + "covertype_test_accuracy": 0.8240000009536743, + "covertype_test_precision": 0.8246225118637085, + "covertype_test_recall": 0.8240000009536743, + "covertype_test_f1-score": 0.8226485848426819, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8240000009536743 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.562211811542511, + "lr": 1.5708421415183693e-05, + "covertype_val_accuracy": 0.7717717885971069, + "covertype_val_precision": 0.7666138410568237, + "covertype_val_recall": 0.7717717885971069, + "covertype_val_f1-score": 0.7687070965766907, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7717717885971069 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.564054012298584, + "lr": 1.5708415958215483e-05, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.7793192863464355, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.7773235440254211, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.777999997138977 + }, + "5": { + "covertype_test_loss": 0.5379261374473572, + "covertype_test_accuracy": 0.7905263304710388, + "covertype_test_precision": 0.7891396880149841, + "covertype_test_recall": 0.7905263304710388, + "covertype_test_f1-score": 0.7890907526016235, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7905263304710388 + }, + "10": { + "covertype_test_loss": 0.520728588104248, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7956281304359436, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7945716977119446, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7950000166893005 + }, + "20": { + "covertype_test_loss": 0.5054343342781067, + "covertype_test_accuracy": 0.7987499833106995, + "covertype_test_precision": 0.8009496331214905, + "covertype_test_recall": 0.7987499833106995, + "covertype_test_f1-score": 0.7986671328544617, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7987499833106995 + }, + "50": { + "covertype_test_loss": 0.4809782803058624, + "covertype_test_accuracy": 0.8180000185966492, + "covertype_test_precision": 0.8182713389396667, + "covertype_test_recall": 0.8180000185966492, + "covertype_test_f1-score": 0.8172904253005981, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8180000185966492 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5589803457260132, + "lr": 0.0, + "covertype_val_accuracy": 0.7877877950668335, + "covertype_val_precision": 0.7811346650123596, + "covertype_val_recall": 0.7877877950668335, + "covertype_val_f1-score": 0.783277153968811, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7877877950668335 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5988048315048218, + "lr": 0.0, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7867544889450073, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.7846136689186096, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5737990736961365, + "covertype_test_accuracy": 0.7984210252761841, + "covertype_test_precision": 0.7978590130805969, + "covertype_test_recall": 0.7984210252761841, + "covertype_test_f1-score": 0.796424925327301, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7984210252761841 + }, + "10": { + "covertype_test_loss": 0.5546267032623291, + "covertype_test_accuracy": 0.8027777671813965, + "covertype_test_precision": 0.8021693229675293, + "covertype_test_recall": 0.8027777671813965, + "covertype_test_f1-score": 0.8011918663978577, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8027777671813965 + }, + "20": { + "covertype_test_loss": 0.5410594940185547, + "covertype_test_accuracy": 0.8068749904632568, + "covertype_test_precision": 0.8085653185844421, + "covertype_test_recall": 0.8068749904632568, + "covertype_test_f1-score": 0.8059993982315063, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8068749904632568 + }, + "50": { + "covertype_test_loss": 0.5359843969345093, + "covertype_test_accuracy": 0.8259999752044678, + "covertype_test_precision": 0.8253577351570129, + "covertype_test_recall": 0.8259999752044678, + "covertype_test_f1-score": 0.824783205986023, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8259999752044678 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6008522510528564, + "lr": 0.0, + "covertype_val_accuracy": 0.781781792640686, + "covertype_val_precision": 0.7708261609077454, + "covertype_val_recall": 0.781781792640686, + "covertype_val_f1-score": 0.7734021544456482, + "covertype_val_support": 999.0, + "covertype_val_score": 0.781781792640686 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5861554741859436, + "lr": 0.0, + "covertype_test_accuracy": 0.7889999747276306, + "covertype_test_precision": 0.7883149981498718, + "covertype_test_recall": 0.7889999747276306, + "covertype_test_f1-score": 0.7842640280723572, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7889999747276306 + }, + "5": { + "covertype_test_loss": 0.5632182359695435, + "covertype_test_accuracy": 0.8005263209342957, + "covertype_test_precision": 0.7952858209609985, + "covertype_test_recall": 0.8005263209342957, + "covertype_test_f1-score": 0.7956838607788086, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.8005263209342957 + }, + "10": { + "covertype_test_loss": 0.5417982935905457, + "covertype_test_accuracy": 0.8083333373069763, + "covertype_test_precision": 0.8068110346794128, + "covertype_test_recall": 0.8083333373069763, + "covertype_test_f1-score": 0.8059974312782288, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8083333373069763 + }, + "20": { + "covertype_test_loss": 0.531429648399353, + "covertype_test_accuracy": 0.809374988079071, + "covertype_test_precision": 0.8100512623786926, + "covertype_test_recall": 0.809374988079071, + "covertype_test_f1-score": 0.8079184293746948, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.809374988079071 + }, + "50": { + "covertype_test_loss": 0.5162249207496643, + "covertype_test_accuracy": 0.8299999833106995, + "covertype_test_precision": 0.8301254510879517, + "covertype_test_recall": 0.8299999833106995, + "covertype_test_f1-score": 0.8291386961936951, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8299999833106995 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5839762210845947, + "std": 0.016026942306773793, + "n": 5, + "ci95": 0.01989688698701837 + }, + "lr": { + "mean": 3.339010368108575e-06, + "std": 6.9278934584932095e-06, + "n": 5, + "ci95": 8.600736844449962e-06 + }, + "covertype_test_accuracy": { + "mean": 0.7853999853134155, + "std": 0.004263207747710858, + "n": 5, + "ci95": 0.005292622955442531 + }, + "covertype_test_precision": { + "mean": 0.7861238479614258, + "std": 0.003894725206259179, + "n": 5, + "ci95": 0.004835164798819939 + }, + "covertype_test_recall": { + "mean": 0.7853999853134155, + "std": 0.004263207747710858, + "n": 5, + "ci95": 0.005292622955442531 + }, + "covertype_test_f1-score": { + "mean": 0.7819289922714233, + "std": 0.0039945988320730375, + "n": 5, + "ci95": 0.004959154403809171 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7853999853134155, + "std": 0.004263207747710858, + "n": 5, + "ci95": 0.005292622955442531 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5587677001953125, + "std": 0.017136683780486932, + "n": 5, + "ci95": 0.021274592120326626 + }, + "covertype_test_accuracy": { + "mean": 0.7975789546966553, + "std": 0.004018652003083323, + "n": 5, + "ci95": 0.004989015572340914 + }, + "covertype_test_precision": { + "mean": 0.79504873752594, + "std": 0.003849024376648496, + "n": 5, + "ci95": 0.004778428821078732 + }, + "covertype_test_recall": { + "mean": 0.7975789546966553, + "std": 0.004018652003083323, + "n": 5, + "ci95": 0.004989015572340914 + }, + "covertype_test_f1-score": { + "mean": 0.7944962024688721, + "std": 0.00339537778044453, + "n": 5, + "ci95": 0.004215242476238583 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7975789546966553, + "std": 0.004018652003083323, + "n": 5, + "ci95": 0.004989015572340914 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5413721680641175, + "std": 0.017012228741100397, + "n": 5, + "ci95": 0.02112008555218404 + }, + "covertype_test_accuracy": { + "mean": 0.8033333420753479, + "std": 0.005061349887575751, + "n": 5, + "ci95": 0.0062834884401056215 + }, + "covertype_test_precision": { + "mean": 0.8024821281433105, + "std": 0.004196576559824614, + "n": 5, + "ci95": 0.005209902671697388 + }, + "covertype_test_recall": { + "mean": 0.8033333420753479, + "std": 0.005061349887575751, + "n": 5, + "ci95": 0.0062834884401056215 + }, + "covertype_test_f1-score": { + "mean": 0.8017201066017151, + "std": 0.0043593601417133655, + "n": 5, + "ci95": 0.005411992781600236 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8033333420753479, + "std": 0.005061349887575751, + "n": 5, + "ci95": 0.0062834884401056215 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5270359754562378, + "std": 0.01955695904834645, + "n": 5, + "ci95": 0.024279279013204706 + }, + "covertype_test_accuracy": { + "mean": 0.8067499995231628, + "std": 0.004685426444174135, + "n": 5, + "ci95": 0.005816792664581961 + }, + "covertype_test_precision": { + "mean": 0.807886278629303, + "std": 0.004070804058805498, + "n": 5, + "ci95": 0.005053760521126698 + }, + "covertype_test_recall": { + "mean": 0.8067499995231628, + "std": 0.004685426444174135, + "n": 5, + "ci95": 0.005816792664581961 + }, + "covertype_test_f1-score": { + "mean": 0.8058733701705932, + "std": 0.004284235677226108, + "n": 5, + "ci95": 0.005318728392719801 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8067499995231628, + "std": 0.004685426444174135, + "n": 5, + "ci95": 0.005816792664581961 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5071485638618469, + "std": 0.029161270520806148, + "n": 5, + "ci95": 0.03620269498974365 + }, + "covertype_test_accuracy": { + "mean": 0.8247999906539917, + "std": 0.004381764854879546, + "n": 5, + "ci95": 0.005439807447511628 + }, + "covertype_test_precision": { + "mean": 0.8249660134315491, + "std": 0.004298869657249956, + "n": 5, + "ci95": 0.005336895965868282 + }, + "covertype_test_recall": { + "mean": 0.8247999906539917, + "std": 0.004381764854879546, + "n": 5, + "ci95": 0.005439807447511628 + }, + "covertype_test_f1-score": { + "mean": 0.8238160371780395, + "std": 0.004335370289671767, + "n": 5, + "ci95": 0.005382210221348226 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8247999906539917, + "std": 0.004381764854879546, + "n": 5, + "ci95": 0.005439807447511628 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..8d95511d3f1a32b7cc804da1f36086d234edab6c --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpudyq1znt", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpudyq1znt/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5775449872016907, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.7441650629043579, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7429981827735901, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5741034746170044, + "lr": 0.0, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7571992874145508, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7523638606071472, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7549999952316284 + }, + "5": { + "covertype_test_loss": 0.5449559092521667, + "covertype_test_accuracy": 0.7673684358596802, + "covertype_test_precision": 0.7685332894325256, + "covertype_test_recall": 0.7673684358596802, + "covertype_test_f1-score": 0.7650918960571289, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7673684358596802 + }, + "10": { + "covertype_test_loss": 0.5247601866722107, + "covertype_test_accuracy": 0.7755555510520935, + "covertype_test_precision": 0.7762293815612793, + "covertype_test_recall": 0.7755555510520935, + "covertype_test_f1-score": 0.7739129066467285, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7755555510520935 + }, + "20": { + "covertype_test_loss": 0.5040589570999146, + "covertype_test_accuracy": 0.7793750166893005, + "covertype_test_precision": 0.7808309197425842, + "covertype_test_recall": 0.7793750166893005, + "covertype_test_f1-score": 0.7784319519996643, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7793750166893005 + }, + "50": { + "covertype_test_loss": 0.47608354687690735, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7883710861206055, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7868157029151917, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7870000004768372 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6113190650939941, + "lr": 0.0, + "covertype_val_accuracy": 0.7457457184791565, + "covertype_val_precision": 0.7441413998603821, + "covertype_val_recall": 0.7457457184791565, + "covertype_val_f1-score": 0.7403666973114014, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7457457184791565 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5918344259262085, + "lr": 0.0, + "covertype_test_accuracy": 0.7409999966621399, + "covertype_test_precision": 0.7454695105552673, + "covertype_test_recall": 0.7409999966621399, + "covertype_test_f1-score": 0.7363319396972656, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7409999966621399 + }, + "5": { + "covertype_test_loss": 0.5703089833259583, + "covertype_test_accuracy": 0.7510526180267334, + "covertype_test_precision": 0.7556478977203369, + "covertype_test_recall": 0.7510526180267334, + "covertype_test_f1-score": 0.7467032670974731, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7510526180267334 + }, + "10": { + "covertype_test_loss": 0.558827817440033, + "covertype_test_accuracy": 0.7555555701255798, + "covertype_test_precision": 0.7599234580993652, + "covertype_test_recall": 0.7555555701255798, + "covertype_test_f1-score": 0.7520762085914612, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7555555701255798 + }, + "20": { + "covertype_test_loss": 0.5360593795776367, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.7695462107658386, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.7624475359916687, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7649999856948853 + }, + "50": { + "covertype_test_loss": 0.497831255197525, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7796186208724976, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7778870463371277, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.583288848400116, + "lr": 0.0, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7546113729476929, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7524422407150269, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5685733556747437, + "lr": 0.0, + "covertype_test_accuracy": 0.7484999895095825, + "covertype_test_precision": 0.7486436367034912, + "covertype_test_recall": 0.7484999895095825, + "covertype_test_f1-score": 0.7453787326812744, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7484999895095825 + }, + "5": { + "covertype_test_loss": 0.5444479584693909, + "covertype_test_accuracy": 0.7605262994766235, + "covertype_test_precision": 0.7603079080581665, + "covertype_test_recall": 0.7605262994766235, + "covertype_test_f1-score": 0.757434606552124, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7605262994766235 + }, + "10": { + "covertype_test_loss": 0.5281400084495544, + "covertype_test_accuracy": 0.7672222256660461, + "covertype_test_precision": 0.7673310041427612, + "covertype_test_recall": 0.7672222256660461, + "covertype_test_f1-score": 0.7651413083076477, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7672222256660461 + }, + "20": { + "covertype_test_loss": 0.5066200494766235, + "covertype_test_accuracy": 0.7724999785423279, + "covertype_test_precision": 0.7735600471496582, + "covertype_test_recall": 0.7724999785423279, + "covertype_test_f1-score": 0.771120548248291, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7724999785423279 + }, + "50": { + "covertype_test_loss": 0.48119184374809265, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.7792415618896484, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.7771945595741272, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.777999997138977 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6017088890075684, + "lr": 0.0, + "covertype_val_accuracy": 0.7417417168617249, + "covertype_val_precision": 0.7467571496963501, + "covertype_val_recall": 0.7417417168617249, + "covertype_val_f1-score": 0.7401425242424011, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7417417168617249 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5834855437278748, + "lr": 0.0, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7455819845199585, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7384995222091675, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7400000095367432 + }, + "5": { + "covertype_test_loss": 0.5592502355575562, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.755634069442749, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.7484846711158752, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.75 + }, + "10": { + "covertype_test_loss": 0.5445123910903931, + "covertype_test_accuracy": 0.753333330154419, + "covertype_test_precision": 0.7591526508331299, + "covertype_test_recall": 0.753333330154419, + "covertype_test_f1-score": 0.7526442408561707, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.753333330154419 + }, + "20": { + "covertype_test_loss": 0.5260928273200989, + "covertype_test_accuracy": 0.7568749785423279, + "covertype_test_precision": 0.7646459341049194, + "covertype_test_recall": 0.7568749785423279, + "covertype_test_f1-score": 0.7567983269691467, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7568749785423279 + }, + "50": { + "covertype_test_loss": 0.49935659766197205, + "covertype_test_accuracy": 0.7689999938011169, + "covertype_test_precision": 0.776340663433075, + "covertype_test_recall": 0.7689999938011169, + "covertype_test_f1-score": 0.7700338959693909, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7689999938011169 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5866748094558716, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7458003163337708, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7468720078468323, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5481371283531189, + "lr": 0.0, + "covertype_test_accuracy": 0.7720000147819519, + "covertype_test_precision": 0.773033857345581, + "covertype_test_recall": 0.7720000147819519, + "covertype_test_f1-score": 0.7687072157859802, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7720000147819519 + }, + "5": { + "covertype_test_loss": 0.5216098427772522, + "covertype_test_accuracy": 0.7842105031013489, + "covertype_test_precision": 0.784633994102478, + "covertype_test_recall": 0.7842105031013489, + "covertype_test_f1-score": 0.780914843082428, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7842105031013489 + }, + "10": { + "covertype_test_loss": 0.5051652789115906, + "covertype_test_accuracy": 0.7911111116409302, + "covertype_test_precision": 0.7920228838920593, + "covertype_test_recall": 0.7911111116409302, + "covertype_test_f1-score": 0.7887198328971863, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7911111116409302 + }, + "20": { + "covertype_test_loss": 0.4823663830757141, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7973063588142395, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7935860753059387, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7950000166893005 + }, + "50": { + "covertype_test_loss": 0.44712182879447937, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.8029788136482239, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.8022783994674683, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.57322678565979, + "std": 0.016608734835197096, + "n": 5, + "ci95": 0.020619162014054407 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7513000011444092, + "std": 0.01307478956487605, + "n": 5, + "ci95": 0.016231892857156812 + }, + "covertype_test_precision": { + "mean": 0.7539856553077697, + "std": 0.011670957534784338, + "n": 5, + "ci95": 0.014489084608593642 + }, + "covertype_test_recall": { + "mean": 0.7513000011444092, + "std": 0.01307478956487605, + "n": 5, + "ci95": 0.016231892857156812 + }, + "covertype_test_f1-score": { + "mean": 0.748256254196167, + "std": 0.013045856485672571, + "n": 5, + "ci95": 0.016195973453687392 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7513000011444092, + "std": 0.01307478956487605, + "n": 5, + "ci95": 0.016231892857156812 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5481145858764649, + "std": 0.018320185406270607, + "n": 5, + "ci95": 0.022743867896481237 + }, + "covertype_test_accuracy": { + "mean": 0.7626315712928772, + "std": 0.01401917530924874, + "n": 5, + "ci95": 0.017404314649677576 + }, + "covertype_test_precision": { + "mean": 0.7649514317512512, + "std": 0.012197994336153716, + "n": 5, + "ci95": 0.015143382320167365 + }, + "covertype_test_recall": { + "mean": 0.7626315712928772, + "std": 0.01401917530924874, + "n": 5, + "ci95": 0.017404314649677576 + }, + "covertype_test_f1-score": { + "mean": 0.7597258567810059, + "std": 0.013955012028207744, + "n": 5, + "ci95": 0.017324658185758728 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7626315712928772, + "std": 0.01401917530924874, + "n": 5, + "ci95": 0.017404314649677576 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5322811365127563, + "std": 0.020391868590103092, + "n": 5, + "ci95": 0.025315789938292022 + }, + "covertype_test_accuracy": { + "mean": 0.7685555577278137, + "std": 0.015493922866795686, + "n": 5, + "ci95": 0.019235162039356588 + }, + "covertype_test_precision": { + "mean": 0.770931875705719, + "std": 0.013654631699663213, + "n": 5, + "ci95": 0.016951746538872225 + }, + "covertype_test_recall": { + "mean": 0.7685555577278137, + "std": 0.015493922866795686, + "n": 5, + "ci95": 0.019235162039356588 + }, + "covertype_test_f1-score": { + "mean": 0.7664988994598388, + "std": 0.015415463146138085, + "n": 5, + "ci95": 0.01913775704687106 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7685555577278137, + "std": 0.015493922866795686, + "n": 5, + "ci95": 0.019235162039356588 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5110395193099976, + "std": 0.020874650857834062, + "n": 5, + "ci95": 0.025915147197868586 + }, + "covertype_test_accuracy": { + "mean": 0.7737499952316285, + "std": 0.014543861894555338, + "n": 5, + "ci95": 0.018055694650405327 + }, + "covertype_test_precision": { + "mean": 0.777177894115448, + "std": 0.012716928839986055, + "n": 5, + "ci95": 0.015787621313406427 + }, + "covertype_test_recall": { + "mean": 0.7737499952316285, + "std": 0.014543861894555338, + "n": 5, + "ci95": 0.018055694650405327 + }, + "covertype_test_f1-score": { + "mean": 0.7724768877029419, + "std": 0.014398831646913038, + "n": 5, + "ci95": 0.01787564468255722 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7737499952316285, + "std": 0.014543861894555338, + "n": 5, + "ci95": 0.018055694650405327 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4803170144557953, + "std": 0.021153382014146016, + "n": 5, + "ci95": 0.026261182156424336 + }, + "covertype_test_accuracy": { + "mean": 0.7831999897956848, + "std": 0.012774968533939182, + "n": 5, + "ci95": 0.015859675558641866 + }, + "covertype_test_precision": { + "mean": 0.7853101491928101, + "std": 0.010853846781038621, + "n": 5, + "ci95": 0.013474670254816098 + }, + "covertype_test_recall": { + "mean": 0.7831999897956848, + "std": 0.012774968533939182, + "n": 5, + "ci95": 0.015859675558641866 + }, + "covertype_test_f1-score": { + "mean": 0.7828419208526611, + "std": 0.012390082900345963, + "n": 5, + "ci95": 0.015381853538199791 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7831999897956848, + "std": 0.012774968533939182, + "n": 5, + "ci95": 0.015859675558641866 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..6bfa9e60aab8781e831e23a50378186da095a548 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp5r2ghewq", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp5r2ghewq/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.637065589427948, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7247247099876404, + "covertype_val_precision": 0.7175696492195129, + "covertype_val_recall": 0.7247247099876404, + "covertype_val_f1-score": 0.7062999606132507, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7247247099876404 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6563440561294556, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7135000228881836, + "covertype_test_precision": 0.702268123626709, + "covertype_test_recall": 0.7135000228881836, + "covertype_test_f1-score": 0.6961764693260193, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7135000228881836 + }, + "5": { + "covertype_test_loss": 0.6294090151786804, + "covertype_test_accuracy": 0.7278947234153748, + "covertype_test_precision": 0.7174124121665955, + "covertype_test_recall": 0.7278947234153748, + "covertype_test_f1-score": 0.7144860625267029, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7278947234153748 + }, + "10": { + "covertype_test_loss": 0.6162866950035095, + "covertype_test_accuracy": 0.7333333492279053, + "covertype_test_precision": 0.7256174683570862, + "covertype_test_recall": 0.7333333492279053, + "covertype_test_f1-score": 0.7203879356384277, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7333333492279053 + }, + "20": { + "covertype_test_loss": 0.5879132747650146, + "covertype_test_accuracy": 0.7418749928474426, + "covertype_test_precision": 0.7379641532897949, + "covertype_test_recall": 0.7418749928474426, + "covertype_test_f1-score": 0.7290722727775574, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7418749928474426 + }, + "50": { + "covertype_test_loss": 0.5583438873291016, + "covertype_test_accuracy": 0.7419999837875366, + "covertype_test_precision": 0.746045708656311, + "covertype_test_recall": 0.7419999837875366, + "covertype_test_f1-score": 0.7280855178833008, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7419999837875366 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.652897834777832, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7347347140312195, + "covertype_val_precision": 0.7476903796195984, + "covertype_val_recall": 0.7347347140312195, + "covertype_val_f1-score": 0.7278397083282471, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7347347140312195 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6413367390632629, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7245000004768372, + "covertype_test_precision": 0.7173720002174377, + "covertype_test_recall": 0.7245000004768372, + "covertype_test_f1-score": 0.7148953676223755, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7245000004768372 + }, + "5": { + "covertype_test_loss": 0.6179523468017578, + "covertype_test_accuracy": 0.7394737005233765, + "covertype_test_precision": 0.7288368344306946, + "covertype_test_recall": 0.7394737005233765, + "covertype_test_f1-score": 0.7328091859817505, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7394737005233765 + }, + "10": { + "covertype_test_loss": 0.6053019165992737, + "covertype_test_accuracy": 0.742222249507904, + "covertype_test_precision": 0.7319069504737854, + "covertype_test_recall": 0.742222249507904, + "covertype_test_f1-score": 0.7359934449195862, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.742222249507904 + }, + "20": { + "covertype_test_loss": 0.5830191969871521, + "covertype_test_accuracy": 0.7518749833106995, + "covertype_test_precision": 0.7428141236305237, + "covertype_test_recall": 0.7518749833106995, + "covertype_test_f1-score": 0.7462968826293945, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7518749833106995 + }, + "50": { + "covertype_test_loss": 0.5429593920707703, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7557225227355957, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.757733166217804, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7620000243186951 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6261787414550781, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7157157063484192, + "covertype_val_precision": 0.7119569182395935, + "covertype_val_recall": 0.7157157063484192, + "covertype_val_f1-score": 0.7082828283309937, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7157157063484192 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6328287720680237, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.722000002861023, + "covertype_test_precision": 0.7150440216064453, + "covertype_test_recall": 0.722000002861023, + "covertype_test_f1-score": 0.7118847966194153, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.722000002861023 + }, + "5": { + "covertype_test_loss": 0.6101549863815308, + "covertype_test_accuracy": 0.7368420958518982, + "covertype_test_precision": 0.7277491092681885, + "covertype_test_recall": 0.7368420958518982, + "covertype_test_f1-score": 0.7260196805000305, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7368420958518982 + }, + "10": { + "covertype_test_loss": 0.5950436592102051, + "covertype_test_accuracy": 0.7416666746139526, + "covertype_test_precision": 0.7343603372573853, + "covertype_test_recall": 0.7416666746139526, + "covertype_test_f1-score": 0.7304020524024963, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7416666746139526 + }, + "20": { + "covertype_test_loss": 0.5667194724082947, + "covertype_test_accuracy": 0.7543749809265137, + "covertype_test_precision": 0.7483087778091431, + "covertype_test_recall": 0.7543749809265137, + "covertype_test_f1-score": 0.7437295317649841, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7543749809265137 + }, + "50": { + "covertype_test_loss": 0.5418584942817688, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.7609314322471619, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.7568539381027222, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7649999856948853 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.7552580833435059, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7097097039222717, + "covertype_val_precision": 0.6945928931236267, + "covertype_val_recall": 0.7097097039222717, + "covertype_val_f1-score": 0.6879680752754211, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7097097039222717 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7475411891937256, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6915000081062317, + "covertype_test_precision": 0.678767740726471, + "covertype_test_recall": 0.6915000081062317, + "covertype_test_f1-score": 0.6700205206871033, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6915000081062317 + }, + "5": { + "covertype_test_loss": 0.7057554721832275, + "covertype_test_accuracy": 0.7042105197906494, + "covertype_test_precision": 0.6958820819854736, + "covertype_test_recall": 0.7042105197906494, + "covertype_test_f1-score": 0.6863248944282532, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7042105197906494 + }, + "10": { + "covertype_test_loss": 0.6855075359344482, + "covertype_test_accuracy": 0.7144444584846497, + "covertype_test_precision": 0.7076001763343811, + "covertype_test_recall": 0.7144444584846497, + "covertype_test_f1-score": 0.6976211071014404, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7144444584846497 + }, + "20": { + "covertype_test_loss": 0.6544448137283325, + "covertype_test_accuracy": 0.7225000262260437, + "covertype_test_precision": 0.7211334705352783, + "covertype_test_recall": 0.7225000262260437, + "covertype_test_f1-score": 0.7053558826446533, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7225000262260437 + }, + "50": { + "covertype_test_loss": 0.6071364879608154, + "covertype_test_accuracy": 0.7329999804496765, + "covertype_test_precision": 0.7358627915382385, + "covertype_test_recall": 0.7329999804496765, + "covertype_test_f1-score": 0.7193883061408997, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7329999804496765 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6422446370124817, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7237237095832825, + "covertype_val_precision": 0.7138780951499939, + "covertype_val_recall": 0.7237237095832825, + "covertype_val_f1-score": 0.7143298387527466, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7237237095832825 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6341943740844727, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7275000214576721, + "covertype_test_precision": 0.7217577695846558, + "covertype_test_recall": 0.7275000214576721, + "covertype_test_f1-score": 0.717312216758728, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7275000214576721 + }, + "5": { + "covertype_test_loss": 0.6110362410545349, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7318841218948364, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7290154695510864, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7400000095367432 + }, + "10": { + "covertype_test_loss": 0.6008505821228027, + "covertype_test_accuracy": 0.742222249507904, + "covertype_test_precision": 0.7352656126022339, + "covertype_test_recall": 0.742222249507904, + "covertype_test_f1-score": 0.7308065295219421, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.742222249507904 + }, + "20": { + "covertype_test_loss": 0.5734477639198303, + "covertype_test_accuracy": 0.7506250143051147, + "covertype_test_precision": 0.7458838224411011, + "covertype_test_recall": 0.7506250143051147, + "covertype_test_f1-score": 0.7397820949554443, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7506250143051147 + }, + "50": { + "covertype_test_loss": 0.544083833694458, + "covertype_test_accuracy": 0.7509999871253967, + "covertype_test_precision": 0.7499061822891235, + "covertype_test_recall": 0.7509999871253967, + "covertype_test_f1-score": 0.7398067712783813, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7509999871253967 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6624490261077881, + "std": 0.04847514917890757, + "n": 5, + "ci95": 0.060180198220588337 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7158000111579895, + "std": 0.014549914489741083, + "n": 5, + "ci95": 0.018063208735131148 + }, + "covertype_test_precision": { + "mean": 0.7070419311523437, + "std": 0.017389068130735694, + "n": 5, + "ci95": 0.021587918442844755 + }, + "covertype_test_recall": { + "mean": 0.7158000111579895, + "std": 0.014549914489741083, + "n": 5, + "ci95": 0.018063208735131148 + }, + "covertype_test_f1-score": { + "mean": 0.7020578742027282, + "std": 0.01971704561989297, + "n": 5, + "ci95": 0.02447802087932187 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7158000111579895, + "std": 0.014549914489741083, + "n": 5, + "ci95": 0.018063208735131148 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6348616123199463, + "std": 0.04037220307172862, + "n": 5, + "ci95": 0.05012067470883907 + }, + "covertype_test_accuracy": { + "mean": 0.7296842098236084, + "std": 0.01504656380853175, + "n": 5, + "ci95": 0.018679781452434874 + }, + "covertype_test_precision": { + "mean": 0.7203529119491577, + "std": 0.014723429766437502, + "n": 5, + "ci95": 0.018278621867896385 + }, + "covertype_test_recall": { + "mean": 0.7296842098236084, + "std": 0.01504656380853175, + "n": 5, + "ci95": 0.018679781452434874 + }, + "covertype_test_f1-score": { + "mean": 0.7177310585975647, + "std": 0.018843210026116743, + "n": 5, + "ci95": 0.023393184625356497 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7296842098236084, + "std": 0.01504656380853175, + "n": 5, + "ci95": 0.018679781452434874 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6205980777740479, + "std": 0.037110612428884644, + "n": 5, + "ci95": 0.04607152427350275 + }, + "covertype_test_accuracy": { + "mean": 0.7347777962684632, + "std": 0.01197734805383721, + "n": 5, + "ci95": 0.01486945769628563 + }, + "covertype_test_precision": { + "mean": 0.7269501090049744, + "std": 0.011454531697418774, + "n": 5, + "ci95": 0.014220399519154379 + }, + "covertype_test_recall": { + "mean": 0.7347777962684632, + "std": 0.01197734805383721, + "n": 5, + "ci95": 0.01486945769628563 + }, + "covertype_test_f1-score": { + "mean": 0.7230422139167786, + "std": 0.015292678548379615, + "n": 5, + "ci95": 0.018985324273445885 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7347777962684632, + "std": 0.01197734805383721, + "n": 5, + "ci95": 0.01486945769628563 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5931089043617248, + "std": 0.03526277464246131, + "n": 5, + "ci95": 0.04377749844480378 + }, + "covertype_test_accuracy": { + "mean": 0.7442499995231628, + "std": 0.013038389804569553, + "n": 5, + "ci95": 0.016186703830871563 + }, + "covertype_test_precision": { + "mean": 0.7392208695411682, + "std": 0.010823929872269725, + "n": 5, + "ci95": 0.01343752946143319 + }, + "covertype_test_recall": { + "mean": 0.7442499995231628, + "std": 0.013038389804569553, + "n": 5, + "ci95": 0.016186703830871563 + }, + "covertype_test_f1-score": { + "mean": 0.7328473329544067, + "std": 0.01671402465667984, + "n": 5, + "ci95": 0.02074987563608074 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7442499995231628, + "std": 0.013038389804569553, + "n": 5, + "ci95": 0.016186703830871563 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5588764190673828, + "std": 0.027798830614281768, + "n": 5, + "ci95": 0.034511273611427334 + }, + "covertype_test_accuracy": { + "mean": 0.750599992275238, + "std": 0.013427593783011957, + "n": 5, + "ci95": 0.016669886925047516 + }, + "covertype_test_precision": { + "mean": 0.7496937274932861, + "std": 0.00958227984454644, + "n": 5, + "ci95": 0.011896064482889102 + }, + "covertype_test_recall": { + "mean": 0.750599992275238, + "std": 0.013427593783011957, + "n": 5, + "ci95": 0.016669886925047516 + }, + "covertype_test_f1-score": { + "mean": 0.7403735399246216, + "std": 0.01706353493924618, + "n": 5, + "ci95": 0.021183780398443562 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.750599992275238, + "std": 0.013427593783011957, + "n": 5, + "ci95": 0.016669886925047516 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..c337c4d507b4ab08650ae95fba8ffa03de87d055 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmplun4ug8d", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmplun4ug8d/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5877741575241089, + "lr": 0.0, + "covertype_val_accuracy": 0.7577577829360962, + "covertype_val_precision": 0.7568866014480591, + "covertype_val_recall": 0.7577577829360962, + "covertype_val_f1-score": 0.7554975152015686, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7577577829360962 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5473895072937012, + "lr": 0.0, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7766107320785522, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7747845649719238, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7749999761581421 + }, + "5": { + "covertype_test_loss": 0.5192353129386902, + "covertype_test_accuracy": 0.7863157987594604, + "covertype_test_precision": 0.7857553362846375, + "covertype_test_recall": 0.7863157987594604, + "covertype_test_f1-score": 0.7855521440505981, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7863157987594604 + }, + "10": { + "covertype_test_loss": 0.4980917274951935, + "covertype_test_accuracy": 0.7933333516120911, + "covertype_test_precision": 0.7935997247695923, + "covertype_test_recall": 0.7933333516120911, + "covertype_test_f1-score": 0.7930914163589478, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7933333516120911 + }, + "20": { + "covertype_test_loss": 0.4897807240486145, + "covertype_test_accuracy": 0.7975000143051147, + "covertype_test_precision": 0.7994754910469055, + "covertype_test_recall": 0.7975000143051147, + "covertype_test_f1-score": 0.7975232601165771, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7975000143051147 + }, + "50": { + "covertype_test_loss": 0.42438235878944397, + "covertype_test_accuracy": 0.8119999766349792, + "covertype_test_precision": 0.8118893504142761, + "covertype_test_recall": 0.8119999766349792, + "covertype_test_f1-score": 0.8117302656173706, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8119999766349792 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6039038896560669, + "lr": 0.0, + "covertype_val_accuracy": 0.7577577829360962, + "covertype_val_precision": 0.7551148533821106, + "covertype_val_recall": 0.7577577829360962, + "covertype_val_f1-score": 0.7533757090568542, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7577577829360962 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5680059194564819, + "lr": 0.0, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.7798824310302734, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.7759871482849121, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7760000228881836 + }, + "5": { + "covertype_test_loss": 0.5464010834693909, + "covertype_test_accuracy": 0.7831578850746155, + "covertype_test_precision": 0.7875232100486755, + "covertype_test_recall": 0.7831578850746155, + "covertype_test_f1-score": 0.7835906744003296, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7831578850746155 + }, + "10": { + "covertype_test_loss": 0.5274918675422668, + "covertype_test_accuracy": 0.7933333516120911, + "covertype_test_precision": 0.7958528995513916, + "covertype_test_recall": 0.7933333516120911, + "covertype_test_f1-score": 0.7932400107383728, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7933333516120911 + }, + "20": { + "covertype_test_loss": 0.5026575922966003, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.8042033910751343, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.8004931807518005, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.800000011920929 + }, + "50": { + "covertype_test_loss": 0.4478093087673187, + "covertype_test_accuracy": 0.8140000104904175, + "covertype_test_precision": 0.8144904971122742, + "covertype_test_recall": 0.8140000104904175, + "covertype_test_f1-score": 0.8136339783668518, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8140000104904175 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5836495757102966, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7561183571815491, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7516574859619141, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5617560148239136, + "lr": 0.0, + "covertype_test_accuracy": 0.7639999985694885, + "covertype_test_precision": 0.7712249755859375, + "covertype_test_recall": 0.7639999985694885, + "covertype_test_f1-score": 0.7640969753265381, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7639999985694885 + }, + "5": { + "covertype_test_loss": 0.5369131565093994, + "covertype_test_accuracy": 0.7715789675712585, + "covertype_test_precision": 0.7801975607872009, + "covertype_test_recall": 0.7715789675712585, + "covertype_test_f1-score": 0.7722985744476318, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7715789675712585 + }, + "10": { + "covertype_test_loss": 0.524646520614624, + "covertype_test_accuracy": 0.777222216129303, + "covertype_test_precision": 0.7858116030693054, + "covertype_test_recall": 0.777222216129303, + "covertype_test_f1-score": 0.7778736352920532, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.777222216129303 + }, + "20": { + "covertype_test_loss": 0.511552095413208, + "covertype_test_accuracy": 0.7818750143051147, + "covertype_test_precision": 0.7919374108314514, + "covertype_test_recall": 0.7818750143051147, + "covertype_test_f1-score": 0.7825821042060852, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7818750143051147 + }, + "50": { + "covertype_test_loss": 0.4539783298969269, + "covertype_test_accuracy": 0.8040000200271606, + "covertype_test_precision": 0.8100377321243286, + "covertype_test_recall": 0.8040000200271606, + "covertype_test_f1-score": 0.8038833141326904, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8040000200271606 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5689785480499268, + "lr": 0.0, + "covertype_val_accuracy": 0.7807807922363281, + "covertype_val_precision": 0.7726236581802368, + "covertype_val_recall": 0.7807807922363281, + "covertype_val_f1-score": 0.7762265801429749, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7807807922363281 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.556013822555542, + "lr": 0.0, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7893003821372986, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7894197106361389, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7900000214576721 + }, + "5": { + "covertype_test_loss": 0.5298206806182861, + "covertype_test_accuracy": 0.7973684072494507, + "covertype_test_precision": 0.7974745631217957, + "covertype_test_recall": 0.7973684072494507, + "covertype_test_f1-score": 0.7967877984046936, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7973684072494507 + }, + "10": { + "covertype_test_loss": 0.5128602981567383, + "covertype_test_accuracy": 0.8033333420753479, + "covertype_test_precision": 0.8029603958129883, + "covertype_test_recall": 0.8033333420753479, + "covertype_test_f1-score": 0.8029407858848572, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8033333420753479 + }, + "20": { + "covertype_test_loss": 0.49903184175491333, + "covertype_test_accuracy": 0.8068749904632568, + "covertype_test_precision": 0.8066340088844299, + "covertype_test_recall": 0.8068749904632568, + "covertype_test_f1-score": 0.8065527081489563, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8068749904632568 + }, + "50": { + "covertype_test_loss": 0.4562220275402069, + "covertype_test_accuracy": 0.8140000104904175, + "covertype_test_precision": 0.8140191435813904, + "covertype_test_recall": 0.8140000104904175, + "covertype_test_f1-score": 0.8139110803604126, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8140000104904175 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5820059776306152, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7797797918319702, + "covertype_val_precision": 0.7740426063537598, + "covertype_val_recall": 0.7797797918319702, + "covertype_val_f1-score": 0.7758894562721252, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7797797918319702 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5680290460586548, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7885000109672546, + "covertype_test_precision": 0.7885472178459167, + "covertype_test_recall": 0.7885000109672546, + "covertype_test_f1-score": 0.7875290513038635, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7885000109672546 + }, + "5": { + "covertype_test_loss": 0.5422093868255615, + "covertype_test_accuracy": 0.796842098236084, + "covertype_test_precision": 0.7966492176055908, + "covertype_test_recall": 0.796842098236084, + "covertype_test_f1-score": 0.7962220311164856, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.796842098236084 + }, + "10": { + "covertype_test_loss": 0.5247496962547302, + "covertype_test_accuracy": 0.8027777671813965, + "covertype_test_precision": 0.8020365834236145, + "covertype_test_recall": 0.8027777671813965, + "covertype_test_f1-score": 0.8023033142089844, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8027777671813965 + }, + "20": { + "covertype_test_loss": 0.5137415528297424, + "covertype_test_accuracy": 0.8050000071525574, + "covertype_test_precision": 0.8061522245407104, + "covertype_test_recall": 0.8050000071525574, + "covertype_test_f1-score": 0.805132269859314, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8050000071525574 + }, + "50": { + "covertype_test_loss": 0.47833436727523804, + "covertype_test_accuracy": 0.8240000009536743, + "covertype_test_precision": 0.8236386179924011, + "covertype_test_recall": 0.8240000009536743, + "covertype_test_f1-score": 0.8233087062835693, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8240000009536743 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5602388620376587, + "std": 0.008750325373473686, + "n": 5, + "ci95": 0.010863222174454323 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7787000060081481, + "std": 0.010733135548311009, + "n": 5, + "ci95": 0.013324811491386854 + }, + "covertype_test_precision": { + "mean": 0.7811131477355957, + "std": 0.007775901304228684, + "n": 5, + "ci95": 0.009653508854714974 + }, + "covertype_test_recall": { + "mean": 0.7787000060081481, + "std": 0.010733135548311009, + "n": 5, + "ci95": 0.013324811491386854 + }, + "covertype_test_f1-score": { + "mean": 0.7783634901046753, + "std": 0.010346940054932008, + "n": 5, + "ci95": 0.01284536332594296 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7787000060081481, + "std": 0.010733135548311009, + "n": 5, + "ci95": 0.013324811491386854 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5349159240722656, + "std": 0.010734704165657747, + "n": 5, + "ci95": 0.013326758874828842 + }, + "covertype_test_accuracy": { + "mean": 0.7870526313781738, + "std": 0.01069339908395666, + "n": 5, + "ci95": 0.013275480064007346 + }, + "covertype_test_precision": { + "mean": 0.78951997756958, + "std": 0.00740217120174536, + "n": 5, + "ci95": 0.009189536035045272 + }, + "covertype_test_recall": { + "mean": 0.7870526313781738, + "std": 0.01069339908395666, + "n": 5, + "ci95": 0.013275480064007346 + }, + "covertype_test_f1-score": { + "mean": 0.7868902444839477, + "std": 0.010132106460707488, + "n": 5, + "ci95": 0.012578654950541024 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7870526313781738, + "std": 0.01069339908395666, + "n": 5, + "ci95": 0.013275480064007346 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5175680220127106, + "std": 0.012264308067594256, + "n": 5, + "ci95": 0.01522570849286484 + }, + "covertype_test_accuracy": { + "mean": 0.7940000057220459, + "std": 0.010565786089356074, + "n": 5, + "ci95": 0.013117053005180929 + }, + "covertype_test_precision": { + "mean": 0.7960522413253784, + "std": 0.006972449269525237, + "n": 5, + "ci95": 0.00865605132176885 + }, + "covertype_test_recall": { + "mean": 0.7940000057220459, + "std": 0.010565786089356074, + "n": 5, + "ci95": 0.013117053005180929 + }, + "covertype_test_f1-score": { + "mean": 0.793889832496643, + "std": 0.010127743348129081, + "n": 5, + "ci95": 0.012573238299240824 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7940000057220459, + "std": 0.010565786089356074, + "n": 5, + "ci95": 0.013117053005180929 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5033527612686157, + "std": 0.009727665061049592, + "n": 5, + "ci95": 0.012076555132133144 + }, + "covertype_test_accuracy": { + "mean": 0.7982500076293946, + "std": 0.009895936461803131, + "n": 5, + "ci95": 0.012285458176759778 + }, + "covertype_test_precision": { + "mean": 0.8016805052757263, + "std": 0.00613776019901574, + "n": 5, + "ci95": 0.007619814104005384 + }, + "covertype_test_recall": { + "mean": 0.7982500076293946, + "std": 0.009895936461803131, + "n": 5, + "ci95": 0.012285458176759778 + }, + "covertype_test_f1-score": { + "mean": 0.7984567046165466, + "std": 0.009580317536269834, + "n": 5, + "ci95": 0.01189362834596005 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7982500076293946, + "std": 0.009895936461803131, + "n": 5, + "ci95": 0.012285458176759778 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4521452784538269, + "std": 0.019335386441802833, + "n": 5, + "ci95": 0.024004204390270914 + }, + "covertype_test_accuracy": { + "mean": 0.8136000037193298, + "std": 0.0071274070823261985, + "n": 5, + "ci95": 0.008848426013712002 + }, + "covertype_test_precision": { + "mean": 0.8148150682449341, + "std": 0.005243487338358189, + "n": 5, + "ci95": 0.00650960569971478 + }, + "covertype_test_recall": { + "mean": 0.8136000037193298, + "std": 0.0071274070823261985, + "n": 5, + "ci95": 0.008848426013712002 + }, + "covertype_test_f1-score": { + "mean": 0.8132934689521789, + "std": 0.00692453947403428, + "n": 5, + "ci95": 0.00859657299033118 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8136000037193298, + "std": 0.0071274070823261985, + "n": 5, + "ci95": 0.008848426013712002 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/embedding.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..c1d53a3a9ebec2d77c6ae62282addcee1dfd06c2 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:edd2c6c5e5c32ef5cdaca76bb0866367f9c1e8fccb2a336aba9e9c7273cd2e1d +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/uncertainty.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..9fbe8483f111d13aa876079506a658f84e704cc0 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:c532fd9a06f2c6342961097bae745726bba0bd453958801bd1daa4c7e699633a +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..253ed671a1cf833ac442dfabea7f67bd21475286 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:6324a0a07467453882777e77ce11e9b693c73b7a27db77585dd2d676ad8fbb7e +size 11517584 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/vtjepa_config.yaml b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..dd2d8b6ed07acc3ce013a9b3d3c4557e1b1f740d --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q3-gpu2-delay40-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032539/vtjepa_config.yaml @@ -0,0 +1,131 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 25 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +predictive_target_detach: false +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 50 +vtjepa_kl_y_end_weight: 5.0e-08 +vtjepa_kl_y_start_epoch: 40 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..9441bbeac2c121fb96ac2c9da5048815bf997d3e --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "b8eee4631a2599941fc2db8b4cc17c3f383722749838b9bc7e0267e77537cf6e", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "6f549d93958ab1affbd2c77d8a8ce98e02e4150e008e9989bbcc31323e709a76", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 3e-08, + "start_epoch": 60, + "annealing_epochs": 40 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "25", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "3e-08", + "--vtjepa_kl_y_annealing_epochs", + "40", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "60", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..b3ac7a0c330391eab78d1a008c04d27380883e52 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpgw9kd68v", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpgw9kd68v/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6130986213684082, + "lr": 0.0, + "covertype_val_accuracy": 0.7507507801055908, + "covertype_val_precision": 0.7534303069114685, + "covertype_val_recall": 0.7507507801055908, + "covertype_val_f1-score": 0.7485707402229309, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7507507801055908 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6013669371604919, + "lr": 0.0, + "covertype_test_accuracy": 0.7584999799728394, + "covertype_test_precision": 0.7584485411643982, + "covertype_test_recall": 0.7584999799728394, + "covertype_test_f1-score": 0.7568499445915222, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7584999799728394 + }, + "5": { + "covertype_test_loss": 0.579676628112793, + "covertype_test_accuracy": 0.7663158178329468, + "covertype_test_precision": 0.7649542689323425, + "covertype_test_recall": 0.7663158178329468, + "covertype_test_f1-score": 0.7644031643867493, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7663158178329468 + }, + "10": { + "covertype_test_loss": 0.5607497096061707, + "covertype_test_accuracy": 0.7683333158493042, + "covertype_test_precision": 0.7677444815635681, + "covertype_test_recall": 0.7683333158493042, + "covertype_test_f1-score": 0.7665947675704956, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7683333158493042 + }, + "20": { + "covertype_test_loss": 0.5429060459136963, + "covertype_test_accuracy": 0.7731249928474426, + "covertype_test_precision": 0.7734203338623047, + "covertype_test_recall": 0.7731249928474426, + "covertype_test_f1-score": 0.7707173228263855, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7731249928474426 + }, + "50": { + "covertype_test_loss": 0.5207810401916504, + "covertype_test_accuracy": 0.7689999938011169, + "covertype_test_precision": 0.769055187702179, + "covertype_test_recall": 0.7689999938011169, + "covertype_test_f1-score": 0.7675963044166565, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7689999938011169 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6230418086051941, + "lr": 6.18466583546251e-05, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7599054574966431, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7471535205841064, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6050463318824768, + "lr": 6.184667290654033e-05, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7572855949401855, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7511235475540161, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7519999742507935 + }, + "5": { + "covertype_test_loss": 0.5867161750793457, + "covertype_test_accuracy": 0.7589473724365234, + "covertype_test_precision": 0.7629637122154236, + "covertype_test_recall": 0.7589473724365234, + "covertype_test_f1-score": 0.7579754590988159, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7589473724365234 + }, + "10": { + "covertype_test_loss": 0.5636799335479736, + "covertype_test_accuracy": 0.7644444704055786, + "covertype_test_precision": 0.7686847448348999, + "covertype_test_recall": 0.7644444704055786, + "covertype_test_f1-score": 0.7634397745132446, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7644444704055786 + }, + "20": { + "covertype_test_loss": 0.5457513332366943, + "covertype_test_accuracy": 0.7756249904632568, + "covertype_test_precision": 0.7810220122337341, + "covertype_test_recall": 0.7756249904632568, + "covertype_test_f1-score": 0.7744153738021851, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7756249904632568 + }, + "50": { + "covertype_test_loss": 0.5194454193115234, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.783503532409668, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7795244455337524, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.625413715839386, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7533735632896423, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.751493513584137, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5840486884117126, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7590000033378601, + "covertype_test_precision": 0.7600606083869934, + "covertype_test_recall": 0.7590000033378601, + "covertype_test_f1-score": 0.7579852342605591, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7590000033378601 + }, + "5": { + "covertype_test_loss": 0.5664347410202026, + "covertype_test_accuracy": 0.7652631402015686, + "covertype_test_precision": 0.7675106525421143, + "covertype_test_recall": 0.7652631402015686, + "covertype_test_f1-score": 0.7647910118103027, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7652631402015686 + }, + "10": { + "covertype_test_loss": 0.5498483777046204, + "covertype_test_accuracy": 0.7711111307144165, + "covertype_test_precision": 0.7719950675964355, + "covertype_test_recall": 0.7711111307144165, + "covertype_test_f1-score": 0.7703093886375427, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7711111307144165 + }, + "20": { + "covertype_test_loss": 0.5319100022315979, + "covertype_test_accuracy": 0.778124988079071, + "covertype_test_precision": 0.7798932194709778, + "covertype_test_recall": 0.778124988079071, + "covertype_test_f1-score": 0.7767283916473389, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.778124988079071 + }, + "50": { + "covertype_test_loss": 0.5096983909606934, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.7725073099136353, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7722291946411133, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7730000019073486 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6311648488044739, + "lr": 0.00018128800729755312, + "covertype_val_accuracy": 0.7447447180747986, + "covertype_val_precision": 0.7459587454795837, + "covertype_val_recall": 0.7447447180747986, + "covertype_val_f1-score": 0.7428231239318848, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7447447180747986 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6008930206298828, + "lr": 0.00018128800729755312, + "covertype_test_accuracy": 0.7505000233650208, + "covertype_test_precision": 0.7535730004310608, + "covertype_test_recall": 0.7505000233650208, + "covertype_test_f1-score": 0.7500052452087402, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7505000233650208 + }, + "5": { + "covertype_test_loss": 0.5768724679946899, + "covertype_test_accuracy": 0.7573684453964233, + "covertype_test_precision": 0.7589854598045349, + "covertype_test_recall": 0.7573684453964233, + "covertype_test_f1-score": 0.7566807270050049, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7573684453964233 + }, + "10": { + "covertype_test_loss": 0.5582005977630615, + "covertype_test_accuracy": 0.7622222304344177, + "covertype_test_precision": 0.763867199420929, + "covertype_test_recall": 0.7622222304344177, + "covertype_test_f1-score": 0.7615306973457336, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7622222304344177 + }, + "20": { + "covertype_test_loss": 0.5375471711158752, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7707289457321167, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7687041759490967, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7699999809265137 + }, + "50": { + "covertype_test_loss": 0.5149956941604614, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7715227007865906, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.769371509552002, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7699999809265137 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6376001834869385, + "lr": 1.5708421415183693e-05, + "covertype_val_accuracy": 0.7527527809143066, + "covertype_val_precision": 0.7458187341690063, + "covertype_val_recall": 0.7527527809143066, + "covertype_val_f1-score": 0.7485899329185486, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7527527809143066 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6079502701759338, + "lr": 1.5708415958215483e-05, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7599684000015259, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7592344284057617, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7599999904632568 + }, + "5": { + "covertype_test_loss": 0.5813687443733215, + "covertype_test_accuracy": 0.7678947448730469, + "covertype_test_precision": 0.7677742838859558, + "covertype_test_recall": 0.7678947448730469, + "covertype_test_f1-score": 0.7667859196662903, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7678947448730469 + }, + "10": { + "covertype_test_loss": 0.5501099228858948, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7735731601715088, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7733468413352966, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7749999761581421 + }, + "20": { + "covertype_test_loss": 0.5350353121757507, + "covertype_test_accuracy": 0.7793750166893005, + "covertype_test_precision": 0.7773112058639526, + "covertype_test_recall": 0.7793750166893005, + "covertype_test_f1-score": 0.7770777940750122, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7793750166893005 + }, + "50": { + "covertype_test_loss": 0.5163895487785339, + "covertype_test_accuracy": 0.7829999923706055, + "covertype_test_precision": 0.7824370265007019, + "covertype_test_recall": 0.7829999923706055, + "covertype_test_f1-score": 0.7809966206550598, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7829999923706055 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5998610496520996, + "std": 0.00929631741303105, + "n": 5, + "ci95": 0.011541052149688782 + }, + "lr": { + "mean": 5.353989399736747e-05, + "std": 7.53042843776429e-05, + "n": 5, + "ci95": 9.348762897006174e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7559999942779541, + "std": 0.004401698325004356, + "n": 5, + "ci95": 0.005464554151826201 + }, + "covertype_test_precision": { + "mean": 0.7578672289848327, + "std": 0.002661881558561917, + "n": 5, + "ci95": 0.0033046326323362303 + }, + "covertype_test_recall": { + "mean": 0.7559999942779541, + "std": 0.004401698325004356, + "n": 5, + "ci95": 0.005464554151826201 + }, + "covertype_test_f1-score": { + "mean": 0.7550396800041199, + "std": 0.004190193580933697, + "n": 5, + "ci95": 0.0052019784271844826 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7559999942779541, + "std": 0.004401698325004356, + "n": 5, + "ci95": 0.005464554151826201 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5782137513160706, + "std": 0.007498821975190051, + "n": 5, + "ci95": 0.009309524581807817 + }, + "covertype_test_accuracy": { + "mean": 0.7631579041481018, + "std": 0.004692773904281964, + "n": 5, + "ci95": 0.00582591427871202 + }, + "covertype_test_precision": { + "mean": 0.7644376754760742, + "std": 0.0036311925021639416, + "n": 5, + "ci95": 0.004507998185850344 + }, + "covertype_test_recall": { + "mean": 0.7631579041481018, + "std": 0.004692773904281964, + "n": 5, + "ci95": 0.00582591427871202 + }, + "covertype_test_f1-score": { + "mean": 0.7621272563934326, + "std": 0.004496682020095871, + "n": 5, + "ci95": 0.005582473079259197 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7631579041481018, + "std": 0.004692773904281964, + "n": 5, + "ci95": 0.00582591427871202 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5565177083015442, + "std": 0.006276525850474751, + "n": 5, + "ci95": 0.0077920867953217435 + }, + "covertype_test_accuracy": { + "mean": 0.7682222247123718, + "std": 0.005112909952462791, + "n": 5, + "ci95": 0.006347498453024127 + }, + "covertype_test_precision": { + "mean": 0.7691729307174683, + "std": 0.0037998701571279633, + "n": 5, + "ci95": 0.004717405580836469 + }, + "covertype_test_recall": { + "mean": 0.7682222247123718, + "std": 0.005112909952462791, + "n": 5, + "ci95": 0.006347498453024127 + }, + "covertype_test_f1-score": { + "mean": 0.7670442938804627, + "std": 0.0048470952309843315, + "n": 5, + "ci95": 0.006017498795478264 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7682222247123718, + "std": 0.005112909952462791, + "n": 5, + "ci95": 0.006347498453024127 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5386299729347229, + "std": 0.005662389616448463, + "n": 5, + "ci95": 0.00702965819171408 + }, + "covertype_test_accuracy": { + "mean": 0.7752499938011169, + "std": 0.0037914473707128084, + "n": 5, + "ci95": 0.004706948986795615 + }, + "covertype_test_precision": { + "mean": 0.7764751434326171, + "std": 0.004341857598188417, + "n": 5, + "ci95": 0.005390263987433798 + }, + "covertype_test_recall": { + "mean": 0.7752499938011169, + "std": 0.0037914473707128084, + "n": 5, + "ci95": 0.004706948986795615 + }, + "covertype_test_f1-score": { + "mean": 0.7735286116600036, + "std": 0.003701356498429449, + "n": 5, + "ci95": 0.004595104327341996 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7752499938011169, + "std": 0.0037914473707128084, + "n": 5, + "ci95": 0.004706948986795615 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5162620186805725, + "std": 0.004337529410736312, + "n": 5, + "ci95": 0.005384890694453466 + }, + "covertype_test_accuracy": { + "mean": 0.774999988079071, + "std": 0.006204833787460186, + "n": 5, + "ci95": 0.0077030836125334635 + }, + "covertype_test_precision": { + "mean": 0.7758051514625549, + "std": 0.006671281532972271, + "n": 5, + "ci95": 0.008282162135445527 + }, + "covertype_test_recall": { + "mean": 0.774999988079071, + "std": 0.006204833787460186, + "n": 5, + "ci95": 0.0077030836125334635 + }, + "covertype_test_f1-score": { + "mean": 0.7739436149597168, + "std": 0.006021260151595603, + "n": 5, + "ci95": 0.007475183379495878 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.774999988079071, + "std": 0.006204833787460186, + "n": 5, + "ci95": 0.0077030836125334635 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..a9a70445071d7bccff5a635d8c665f8d4c192a7e --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpidx3ubnu", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpidx3ubnu/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5546656847000122, + "lr": 0.0, + "covertype_val_accuracy": 0.7767767906188965, + "covertype_val_precision": 0.7718988060951233, + "covertype_val_recall": 0.7767767906188965, + "covertype_val_f1-score": 0.7714181542396545, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7767767906188965 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5684572458267212, + "lr": 0.0, + "covertype_test_accuracy": 0.7894999980926514, + "covertype_test_precision": 0.7897108197212219, + "covertype_test_recall": 0.7894999980926514, + "covertype_test_f1-score": 0.7873538732528687, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7894999980926514 + }, + "5": { + "covertype_test_loss": 0.5550596117973328, + "covertype_test_accuracy": 0.7978947162628174, + "covertype_test_precision": 0.7965505719184875, + "covertype_test_recall": 0.7978947162628174, + "covertype_test_f1-score": 0.795388400554657, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7978947162628174 + }, + "10": { + "covertype_test_loss": 0.5198445916175842, + "covertype_test_accuracy": 0.8066666722297668, + "covertype_test_precision": 0.8056319952011108, + "covertype_test_recall": 0.8066666722297668, + "covertype_test_f1-score": 0.8038235902786255, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8066666722297668 + }, + "20": { + "covertype_test_loss": 0.508104145526886, + "covertype_test_accuracy": 0.8106250166893005, + "covertype_test_precision": 0.809461236000061, + "covertype_test_recall": 0.8106250166893005, + "covertype_test_f1-score": 0.8073729872703552, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8106250166893005 + }, + "50": { + "covertype_test_loss": 0.49837392568588257, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8075058460235596, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8076781630516052, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8100000023841858 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6023931503295898, + "lr": 1.5708421415183693e-05, + "covertype_val_accuracy": 0.7767767906188965, + "covertype_val_precision": 0.7670748829841614, + "covertype_val_recall": 0.7767767906188965, + "covertype_val_f1-score": 0.7699377536773682, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7767767906188965 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5945180058479309, + "lr": 1.5708415958215483e-05, + "covertype_test_accuracy": 0.7825000286102295, + "covertype_test_precision": 0.7827925682067871, + "covertype_test_recall": 0.7825000286102295, + "covertype_test_f1-score": 0.7798644304275513, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7825000286102295 + }, + "5": { + "covertype_test_loss": 0.5771216750144958, + "covertype_test_accuracy": 0.7905263304710388, + "covertype_test_precision": 0.7909060716629028, + "covertype_test_recall": 0.7905263304710388, + "covertype_test_f1-score": 0.7892059087753296, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7905263304710388 + }, + "10": { + "covertype_test_loss": 0.5436628460884094, + "covertype_test_accuracy": 0.7961111068725586, + "covertype_test_precision": 0.7952108979225159, + "covertype_test_recall": 0.7961111068725586, + "covertype_test_f1-score": 0.7948891520500183, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7961111068725586 + }, + "20": { + "covertype_test_loss": 0.5355561375617981, + "covertype_test_accuracy": 0.7956249713897705, + "covertype_test_precision": 0.794499397277832, + "covertype_test_recall": 0.7956249713897705, + "covertype_test_f1-score": 0.7939236760139465, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7956249713897705 + }, + "50": { + "covertype_test_loss": 0.5296229720115662, + "covertype_test_accuracy": 0.7979999780654907, + "covertype_test_precision": 0.7971476316452026, + "covertype_test_recall": 0.7979999780654907, + "covertype_test_f1-score": 0.7959592938423157, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7979999780654907 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5651587247848511, + "lr": 0.0, + "covertype_val_accuracy": 0.7737737894058228, + "covertype_val_precision": 0.7665799856185913, + "covertype_val_recall": 0.7737737894058228, + "covertype_val_f1-score": 0.7692655324935913, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7737737894058228 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5648870468139648, + "lr": 0.0, + "covertype_test_accuracy": 0.7914999723434448, + "covertype_test_precision": 0.7904691100120544, + "covertype_test_recall": 0.7914999723434448, + "covertype_test_f1-score": 0.7900533080101013, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7914999723434448 + }, + "5": { + "covertype_test_loss": 0.5503809452056885, + "covertype_test_accuracy": 0.7978947162628174, + "covertype_test_precision": 0.7955540418624878, + "covertype_test_recall": 0.7978947162628174, + "covertype_test_f1-score": 0.7961633205413818, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7978947162628174 + }, + "10": { + "covertype_test_loss": 0.5168850421905518, + "covertype_test_accuracy": 0.8061110973358154, + "covertype_test_precision": 0.803476095199585, + "covertype_test_recall": 0.8061110973358154, + "covertype_test_f1-score": 0.8042298555374146, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8061110973358154 + }, + "20": { + "covertype_test_loss": 0.5060926675796509, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8077176213264465, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8079648017883301, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8100000023841858 + }, + "50": { + "covertype_test_loss": 0.4853660464286804, + "covertype_test_accuracy": 0.8140000104904175, + "covertype_test_precision": 0.8129147887229919, + "covertype_test_recall": 0.8140000104904175, + "covertype_test_f1-score": 0.8123041987419128, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8140000104904175 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5942270159721375, + "lr": 1.5708421415183693e-05, + "covertype_val_accuracy": 0.7687687873840332, + "covertype_val_precision": 0.7598012685775757, + "covertype_val_recall": 0.7687687873840332, + "covertype_val_f1-score": 0.7623109817504883, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7687687873840332 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5591921806335449, + "lr": 1.5708415958215483e-05, + "covertype_test_accuracy": 0.7875000238418579, + "covertype_test_precision": 0.7867363691329956, + "covertype_test_recall": 0.7875000238418579, + "covertype_test_f1-score": 0.7851948142051697, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7875000238418579 + }, + "5": { + "covertype_test_loss": 0.5424978137016296, + "covertype_test_accuracy": 0.7947368621826172, + "covertype_test_precision": 0.7926915287971497, + "covertype_test_recall": 0.7947368621826172, + "covertype_test_f1-score": 0.7921055555343628, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7947368621826172 + }, + "10": { + "covertype_test_loss": 0.5260444283485413, + "covertype_test_accuracy": 0.801111102104187, + "covertype_test_precision": 0.7989999651908875, + "covertype_test_recall": 0.801111102104187, + "covertype_test_f1-score": 0.7984030842781067, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.801111102104187 + }, + "20": { + "covertype_test_loss": 0.5134971737861633, + "covertype_test_accuracy": 0.8068749904632568, + "covertype_test_precision": 0.8050588369369507, + "covertype_test_recall": 0.8068749904632568, + "covertype_test_f1-score": 0.8039975166320801, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8068749904632568 + }, + "50": { + "covertype_test_loss": 0.491027295589447, + "covertype_test_accuracy": 0.8180000185966492, + "covertype_test_precision": 0.8181616067886353, + "covertype_test_recall": 0.8180000185966492, + "covertype_test_f1-score": 0.8164071440696716, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8180000185966492 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5767966508865356, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7757757902145386, + "covertype_val_precision": 0.7690168619155884, + "covertype_val_recall": 0.7757757902145386, + "covertype_val_f1-score": 0.7706520557403564, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7757757902145386 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.580219030380249, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.788297176361084, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7854555249214172, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7870000004768372 + }, + "5": { + "covertype_test_loss": 0.5609579086303711, + "covertype_test_accuracy": 0.7952631711959839, + "covertype_test_precision": 0.7949987649917603, + "covertype_test_recall": 0.7952631711959839, + "covertype_test_f1-score": 0.7934512495994568, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7952631711959839 + }, + "10": { + "covertype_test_loss": 0.5250138640403748, + "covertype_test_accuracy": 0.8022222518920898, + "covertype_test_precision": 0.801671028137207, + "covertype_test_recall": 0.8022222518920898, + "covertype_test_f1-score": 0.8003196716308594, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8022222518920898 + }, + "20": { + "covertype_test_loss": 0.5066967606544495, + "covertype_test_accuracy": 0.8056250214576721, + "covertype_test_precision": 0.8046448230743408, + "covertype_test_recall": 0.8056250214576721, + "covertype_test_f1-score": 0.8035013675689697, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8056250214576721 + }, + "50": { + "covertype_test_loss": 0.4746870994567871, + "covertype_test_accuracy": 0.8080000281333923, + "covertype_test_precision": 0.8063470721244812, + "covertype_test_recall": 0.8080000281333923, + "covertype_test_f1-score": 0.806024968624115, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8080000281333923 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5734547019004822, + "std": 0.014064296167470739, + "n": 5, + "ci95": 0.017460330613272887 + }, + "lr": { + "mean": 6.480693559751671e-06, + "std": 8.433344074563477e-06, + "n": 5, + "ci95": 1.0469701004870462e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7876000046730042, + "std": 0.0033615279214991795, + "n": 5, + "ci95": 0.0041732190630964835 + }, + "covertype_test_precision": { + "mean": 0.7876012086868286, + "std": 0.003042641058827116, + "n": 5, + "ci95": 0.0037773322029092324 + }, + "covertype_test_recall": { + "mean": 0.7876000046730042, + "std": 0.0033615279214991795, + "n": 5, + "ci95": 0.0041732190630964835 + }, + "covertype_test_f1-score": { + "mean": 0.7855843901634216, + "std": 0.0037412769271344412, + "n": 5, + "ci95": 0.004644664140013241 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7876000046730042, + "std": 0.0033615279214991795, + "n": 5, + "ci95": 0.0041732190630964835 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5572035908699036, + "std": 0.013021424654042291, + "n": 5, + "ci95": 0.01616564219127135 + }, + "covertype_test_accuracy": { + "mean": 0.795263159275055, + "std": 0.0030234384443829027, + "n": 5, + "ci95": 0.00375349283029913 + }, + "covertype_test_precision": { + "mean": 0.7941401958465576, + "std": 0.00229696592254484, + "n": 5, + "ci95": 0.0028516026637589445 + }, + "covertype_test_recall": { + "mean": 0.795263159275055, + "std": 0.0030234384443829027, + "n": 5, + "ci95": 0.00375349283029913 + }, + "covertype_test_f1-score": { + "mean": 0.7932628870010376, + "std": 0.0027732783625468113, + "n": 5, + "ci95": 0.003442927859034943 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.795263159275055, + "std": 0.0030234384443829027, + "n": 5, + "ci95": 0.00375349283029913 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5262901544570923, + "std": 0.010410344976624734, + "n": 5, + "ci95": 0.012924078313318172 + }, + "covertype_test_accuracy": { + "mean": 0.8024444460868836, + "std": 0.004278138819131521, + "n": 5, + "ci95": 0.005311159357144463 + }, + "covertype_test_precision": { + "mean": 0.8009979963302613, + "std": 0.004048164021169841, + "n": 5, + "ci95": 0.005025653708136668 + }, + "covertype_test_recall": { + "mean": 0.8024444460868836, + "std": 0.004278138819131521, + "n": 5, + "ci95": 0.005311159357144463 + }, + "covertype_test_f1-score": { + "mean": 0.8003330707550049, + "std": 0.0038964707232711448, + "n": 5, + "ci95": 0.004837331796994402 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8024444460868836, + "std": 0.004278138819131521, + "n": 5, + "ci95": 0.005311159357144463 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5139893770217896, + "std": 0.012405076052352462, + "n": 5, + "ci95": 0.015400467010772561 + }, + "covertype_test_accuracy": { + "mean": 0.8057500004768372, + "std": 0.006033774430714359, + "n": 5, + "ci95": 0.007490719418285052 + }, + "covertype_test_precision": { + "mean": 0.8042763829231262, + "std": 0.005810814355900399, + "n": 5, + "ci95": 0.00721392230213673 + }, + "covertype_test_recall": { + "mean": 0.8057500004768372, + "std": 0.006033774430714359, + "n": 5, + "ci95": 0.007490719418285052 + }, + "covertype_test_f1-score": { + "mean": 0.8033520698547363, + "std": 0.005629799608363618, + "n": 5, + "ci95": 0.006989198839246323 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8057500004768372, + "std": 0.006033774430714359, + "n": 5, + "ci95": 0.007490719418285052 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.49581546783447267, + "std": 0.02078471792404627, + "n": 5, + "ci95": 0.025803498613520066 + }, + "covertype_test_accuracy": { + "mean": 0.809600007534027, + "std": 0.007536591164146073, + "n": 5, + "ci95": 0.009356413705750797 + }, + "covertype_test_precision": { + "mean": 0.8084153890609741, + "std": 0.007862902103881688, + "n": 5, + "ci95": 0.00976151729733253 + }, + "covertype_test_recall": { + "mean": 0.809600007534027, + "std": 0.007536591164146073, + "n": 5, + "ci95": 0.009356413705750797 + }, + "covertype_test_f1-score": { + "mean": 0.8076747536659241, + "std": 0.007708115934872304, + "n": 5, + "ci95": 0.009569355695138981 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.809600007534027, + "std": 0.007536591164146073, + "n": 5, + "ci95": 0.009356413705750797 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..b4a7d650a1a833e5b7d512381c08d6d002e1cacf --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpdlbq3utg", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpdlbq3utg/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6081445217132568, + "lr": 0.0, + "covertype_val_accuracy": 0.7327327132225037, + "covertype_val_precision": 0.731591522693634, + "covertype_val_recall": 0.7327327132225037, + "covertype_val_f1-score": 0.7258514165878296, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7327327132225037 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5737528204917908, + "lr": 0.0, + "covertype_test_accuracy": 0.7429999709129333, + "covertype_test_precision": 0.745352566242218, + "covertype_test_recall": 0.7429999709129333, + "covertype_test_f1-score": 0.740544855594635, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7429999709129333 + }, + "5": { + "covertype_test_loss": 0.5521934032440186, + "covertype_test_accuracy": 0.7515789270401001, + "covertype_test_precision": 0.7548136711120605, + "covertype_test_recall": 0.7515789270401001, + "covertype_test_f1-score": 0.749945342540741, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7515789270401001 + }, + "10": { + "covertype_test_loss": 0.5384978652000427, + "covertype_test_accuracy": 0.7561110854148865, + "covertype_test_precision": 0.7570034861564636, + "covertype_test_recall": 0.7561110854148865, + "covertype_test_f1-score": 0.7536762952804565, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7561110854148865 + }, + "20": { + "covertype_test_loss": 0.5162777900695801, + "covertype_test_accuracy": 0.7631250023841858, + "covertype_test_precision": 0.7643771767616272, + "covertype_test_recall": 0.7631250023841858, + "covertype_test_f1-score": 0.7607360482215881, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7631250023841858 + }, + "50": { + "covertype_test_loss": 0.49894657731056213, + "covertype_test_accuracy": 0.7720000147819519, + "covertype_test_precision": 0.770356297492981, + "covertype_test_recall": 0.7720000147819519, + "covertype_test_f1-score": 0.7695848941802979, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7720000147819519 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6004088521003723, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7500460147857666, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7484016418457031, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5711752772331238, + "lr": 0.0, + "covertype_test_accuracy": 0.7574999928474426, + "covertype_test_precision": 0.7581349015235901, + "covertype_test_recall": 0.7574999928474426, + "covertype_test_f1-score": 0.7548829317092896, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7574999928474426 + }, + "5": { + "covertype_test_loss": 0.5519196391105652, + "covertype_test_accuracy": 0.7652631402015686, + "covertype_test_precision": 0.7650725841522217, + "covertype_test_recall": 0.7652631402015686, + "covertype_test_f1-score": 0.7629261016845703, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7652631402015686 + }, + "10": { + "covertype_test_loss": 0.5323103666305542, + "covertype_test_accuracy": 0.7705555558204651, + "covertype_test_precision": 0.7708069682121277, + "covertype_test_recall": 0.7705555558204651, + "covertype_test_f1-score": 0.7680773735046387, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7705555558204651 + }, + "20": { + "covertype_test_loss": 0.5213543176651001, + "covertype_test_accuracy": 0.7787500023841858, + "covertype_test_precision": 0.7783844470977783, + "covertype_test_recall": 0.7787500023841858, + "covertype_test_f1-score": 0.7752848267555237, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7787500023841858 + }, + "50": { + "covertype_test_loss": 0.5058855414390564, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7777856588363647, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7766247391700745, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6221139430999756, + "lr": 0.0, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.7360932230949402, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.7326443195343018, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5940740704536438, + "lr": 0.0, + "covertype_test_accuracy": 0.7419999837875366, + "covertype_test_precision": 0.7438627481460571, + "covertype_test_recall": 0.7419999837875366, + "covertype_test_f1-score": 0.7382557988166809, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7419999837875366 + }, + "5": { + "covertype_test_loss": 0.5775090456008911, + "covertype_test_accuracy": 0.7510526180267334, + "covertype_test_precision": 0.7530227303504944, + "covertype_test_recall": 0.7510526180267334, + "covertype_test_f1-score": 0.7482789158821106, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7510526180267334 + }, + "10": { + "covertype_test_loss": 0.5576093792915344, + "covertype_test_accuracy": 0.7572222352027893, + "covertype_test_precision": 0.7575200200080872, + "covertype_test_recall": 0.7572222352027893, + "covertype_test_f1-score": 0.7540687322616577, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7572222352027893 + }, + "20": { + "covertype_test_loss": 0.5363695621490479, + "covertype_test_accuracy": 0.7674999833106995, + "covertype_test_precision": 0.7683563232421875, + "covertype_test_recall": 0.7674999833106995, + "covertype_test_f1-score": 0.7635967135429382, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7674999833106995 + }, + "50": { + "covertype_test_loss": 0.4982313811779022, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.778316080570221, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7756467461585999, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5949005484580994, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.7474849224090576, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7451884746551514, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5643004775047302, + "lr": 0.0, + "covertype_test_accuracy": 0.7639999985694885, + "covertype_test_precision": 0.7657480239868164, + "covertype_test_recall": 0.7639999985694885, + "covertype_test_f1-score": 0.7614104151725769, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7639999985694885 + }, + "5": { + "covertype_test_loss": 0.543034017086029, + "covertype_test_accuracy": 0.7752631306648254, + "covertype_test_precision": 0.7773148417472839, + "covertype_test_recall": 0.7752631306648254, + "covertype_test_f1-score": 0.7729519605636597, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7752631306648254 + }, + "10": { + "covertype_test_loss": 0.5269848108291626, + "covertype_test_accuracy": 0.7822222113609314, + "covertype_test_precision": 0.782505214214325, + "covertype_test_recall": 0.7822222113609314, + "covertype_test_f1-score": 0.7794315814971924, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7822222113609314 + }, + "20": { + "covertype_test_loss": 0.5140491724014282, + "covertype_test_accuracy": 0.7881249785423279, + "covertype_test_precision": 0.7874625325202942, + "covertype_test_recall": 0.7881249785423279, + "covertype_test_f1-score": 0.784812867641449, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7881249785423279 + }, + "50": { + "covertype_test_loss": 0.4741814136505127, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7979422807693481, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7970523834228516, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.800000011920929 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6031374335289001, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7575206756591797, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7493964433670044, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5946319103240967, + "lr": 0.0, + "covertype_test_accuracy": 0.7390000224113464, + "covertype_test_precision": 0.7441487908363342, + "covertype_test_recall": 0.7390000224113464, + "covertype_test_f1-score": 0.735759437084198, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7390000224113464 + }, + "5": { + "covertype_test_loss": 0.5750952959060669, + "covertype_test_accuracy": 0.7473683953285217, + "covertype_test_precision": 0.75239098072052, + "covertype_test_recall": 0.7473683953285217, + "covertype_test_f1-score": 0.7454209923744202, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7473683953285217 + }, + "10": { + "covertype_test_loss": 0.5607996582984924, + "covertype_test_accuracy": 0.7516666650772095, + "covertype_test_precision": 0.7550070881843567, + "covertype_test_recall": 0.7516666650772095, + "covertype_test_f1-score": 0.7492355704307556, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7516666650772095 + }, + "20": { + "covertype_test_loss": 0.5430148839950562, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7646346092224121, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7569648027420044, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7599999904632568 + }, + "50": { + "covertype_test_loss": 0.5116021037101746, + "covertype_test_accuracy": 0.7739999890327454, + "covertype_test_precision": 0.7726768851280212, + "covertype_test_recall": 0.7739999890327454, + "covertype_test_f1-score": 0.7714917063713074, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7739999890327454 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5795869112014771, + "std": 0.013916689956565687, + "n": 5, + "ci95": 0.01727708267734449 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7490999937057495, + "std": 0.010979526055108841, + "n": 5, + "ci95": 0.013630696667398166 + }, + "covertype_test_precision": { + "mean": 0.7514494061470032, + "std": 0.00996461415361457, + "n": 5, + "ci95": 0.012370719123379892 + }, + "covertype_test_recall": { + "mean": 0.7490999937057495, + "std": 0.010979526055108841, + "n": 5, + "ci95": 0.013630696667398166 + }, + "covertype_test_f1-score": { + "mean": 0.7461706876754761, + "std": 0.011300907943766047, + "n": 5, + "ci95": 0.014029681014873122 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7490999937057495, + "std": 0.010979526055108841, + "n": 5, + "ci95": 0.013630696667398166 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5599502801895142, + "std": 0.015398880132165395, + "n": 5, + "ci95": 0.01911716981640606 + }, + "covertype_test_accuracy": { + "mean": 0.7581052422523499, + "std": 0.011760535897754682, + "n": 5, + "ci95": 0.014600293005703162 + }, + "covertype_test_precision": { + "mean": 0.7605229616165161, + "std": 0.010696318104193575, + "n": 5, + "ci95": 0.01327910392529386 + }, + "covertype_test_recall": { + "mean": 0.7581052422523499, + "std": 0.011760535897754682, + "n": 5, + "ci95": 0.014600293005703162 + }, + "covertype_test_f1-score": { + "mean": 0.7559046626091004, + "std": 0.01165636976778066, + "n": 5, + "ci95": 0.014470974407289526 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7581052422523499, + "std": 0.011760535897754682, + "n": 5, + "ci95": 0.014600293005703162 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5432404160499573, + "std": 0.015173962591800825, + "n": 5, + "ci95": 0.018837942575403232 + }, + "covertype_test_accuracy": { + "mean": 0.7635555505752564, + "std": 0.012592863473384102, + "n": 5, + "ci95": 0.015633598510364406 + }, + "covertype_test_precision": { + "mean": 0.7645685553550721, + "std": 0.011821329271515848, + "n": 5, + "ci95": 0.014675765847879317 + }, + "covertype_test_recall": { + "mean": 0.7635555505752564, + "std": 0.012592863473384102, + "n": 5, + "ci95": 0.015633598510364406 + }, + "covertype_test_f1-score": { + "mean": 0.7608979105949402, + "std": 0.01254831888489488, + "n": 5, + "ci95": 0.015578297965438961 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7635555505752564, + "std": 0.012592863473384102, + "n": 5, + "ci95": 0.015633598510364406 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5262131452560425, + "std": 0.012803641597276715, + "n": 5, + "ci95": 0.01589527216152958 + }, + "covertype_test_accuracy": { + "mean": 0.7714999914169312, + "std": 0.01169768549786617, + "n": 5, + "ci95": 0.014522266437706962 + }, + "covertype_test_precision": { + "mean": 0.7726430177688599, + "std": 0.01004261561018361, + "n": 5, + "ci95": 0.012467555197065702 + }, + "covertype_test_recall": { + "mean": 0.7714999914169312, + "std": 0.01169768549786617, + "n": 5, + "ci95": 0.014522266437706962 + }, + "covertype_test_f1-score": { + "mean": 0.7682790517807007, + "std": 0.011503058020481172, + "n": 5, + "ci95": 0.014280643247957222 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7714999914169312, + "std": 0.01169768549786617, + "n": 5, + "ci95": 0.014522266437706962 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4977694034576416, + "std": 0.014275921308667117, + "n": 5, + "ci95": 0.017723055806725195 + }, + "covertype_test_accuracy": { + "mean": 0.7807999968528747, + "std": 0.011166920569850677, + "n": 5, + "ci95": 0.01386334038760608 + }, + "covertype_test_precision": { + "mean": 0.7794154405593872, + "std": 0.01089248354847405, + "n": 5, + "ci95": 0.013522636447024923 + }, + "covertype_test_recall": { + "mean": 0.7807999968528747, + "std": 0.011166920569850677, + "n": 5, + "ci95": 0.01386334038760608 + }, + "covertype_test_f1-score": { + "mean": 0.7780800938606263, + "std": 0.010995024748326592, + "n": 5, + "ci95": 0.01364993775166099 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7807999968528747, + "std": 0.011166920569850677, + "n": 5, + "ci95": 0.01386334038760608 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..fe202b38e52c75e3ef4888cbf238254d9735ae7d --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpcognh2b6", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpcognh2b6/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.7075535655021667, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7297297120094299, + "covertype_val_precision": 0.7056490182876587, + "covertype_val_recall": 0.7297297120094299, + "covertype_val_f1-score": 0.710731029510498, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7297297120094299 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7006277441978455, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7120000123977661, + "covertype_test_precision": 0.6956242918968201, + "covertype_test_recall": 0.7120000123977661, + "covertype_test_f1-score": 0.6949546933174133, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7120000123977661 + }, + "5": { + "covertype_test_loss": 0.6613049507141113, + "covertype_test_accuracy": 0.7242105007171631, + "covertype_test_precision": 0.7094964385032654, + "covertype_test_recall": 0.7242105007171631, + "covertype_test_f1-score": 0.7105376124382019, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7242105007171631 + }, + "10": { + "covertype_test_loss": 0.623893141746521, + "covertype_test_accuracy": 0.7333333492279053, + "covertype_test_precision": 0.7197041511535645, + "covertype_test_recall": 0.7333333492279053, + "covertype_test_f1-score": 0.7221698760986328, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7333333492279053 + }, + "20": { + "covertype_test_loss": 0.6055253744125366, + "covertype_test_accuracy": 0.7431250214576721, + "covertype_test_precision": 0.7306251525878906, + "covertype_test_recall": 0.7431250214576721, + "covertype_test_f1-score": 0.7315019965171814, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7431250214576721 + }, + "50": { + "covertype_test_loss": 0.5597717761993408, + "covertype_test_accuracy": 0.7570000290870667, + "covertype_test_precision": 0.7484415769577026, + "covertype_test_recall": 0.7570000290870667, + "covertype_test_f1-score": 0.7462107539176941, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7570000290870667 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.7564774751663208, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6526526808738708, + "covertype_val_precision": 0.6737633347511292, + "covertype_val_recall": 0.6526526808738708, + "covertype_val_f1-score": 0.6329619288444519, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6526526808738708 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7403998970985413, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6504999995231628, + "covertype_test_precision": 0.6870995163917542, + "covertype_test_recall": 0.6504999995231628, + "covertype_test_f1-score": 0.634314239025116, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6504999995231628 + }, + "5": { + "covertype_test_loss": 0.727225661277771, + "covertype_test_accuracy": 0.6552631855010986, + "covertype_test_precision": 0.6983025670051575, + "covertype_test_recall": 0.6552631855010986, + "covertype_test_f1-score": 0.6406809091567993, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6552631855010986 + }, + "10": { + "covertype_test_loss": 0.7143625020980835, + "covertype_test_accuracy": 0.6561111211776733, + "covertype_test_precision": 0.700847327709198, + "covertype_test_recall": 0.6561111211776733, + "covertype_test_f1-score": 0.6406041383743286, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6561111211776733 + }, + "20": { + "covertype_test_loss": 0.6942353844642639, + "covertype_test_accuracy": 0.6575000286102295, + "covertype_test_precision": 0.7069204449653625, + "covertype_test_recall": 0.6575000286102295, + "covertype_test_f1-score": 0.6426796317100525, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6575000286102295 + }, + "50": { + "covertype_test_loss": 0.6300181150436401, + "covertype_test_accuracy": 0.675000011920929, + "covertype_test_precision": 0.7241224050521851, + "covertype_test_recall": 0.675000011920929, + "covertype_test_f1-score": 0.6599884033203125, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.675000011920929 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6351529955863953, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7327327132225037, + "covertype_val_precision": 0.7201393246650696, + "covertype_val_recall": 0.7327327132225037, + "covertype_val_f1-score": 0.7217132449150085, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7327327132225037 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6339879035949707, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7210000157356262, + "covertype_test_precision": 0.7094137668609619, + "covertype_test_recall": 0.7210000157356262, + "covertype_test_f1-score": 0.7080410718917847, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7210000157356262 + }, + "5": { + "covertype_test_loss": 0.6145627498626709, + "covertype_test_accuracy": 0.7321052551269531, + "covertype_test_precision": 0.7188406586647034, + "covertype_test_recall": 0.7321052551269531, + "covertype_test_f1-score": 0.7221893072128296, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7321052551269531 + }, + "10": { + "covertype_test_loss": 0.594642698764801, + "covertype_test_accuracy": 0.7388888597488403, + "covertype_test_precision": 0.7254818677902222, + "covertype_test_recall": 0.7388888597488403, + "covertype_test_f1-score": 0.7299700975418091, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7388888597488403 + }, + "20": { + "covertype_test_loss": 0.5791530609130859, + "covertype_test_accuracy": 0.7425000071525574, + "covertype_test_precision": 0.7301651239395142, + "covertype_test_recall": 0.7425000071525574, + "covertype_test_f1-score": 0.7321862578392029, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7425000071525574 + }, + "50": { + "covertype_test_loss": 0.5355159640312195, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.746101438999176, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7441703677177429, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7549999952316284 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 1.7248916625976562, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.5085085034370422, + "covertype_val_precision": 0.7088617086410522, + "covertype_val_recall": 0.5085085034370422, + "covertype_val_f1-score": 0.570972204208374, + "covertype_val_support": 999.0, + "covertype_val_score": 0.5085085034370422 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 1.8111222982406616, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.4684999883174896, + "covertype_test_precision": 0.6668834686279297, + "covertype_test_recall": 0.4684999883174896, + "covertype_test_f1-score": 0.5256831049919128, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.4684999883174896 + }, + "5": { + "covertype_test_loss": 1.5421262979507446, + "covertype_test_accuracy": 0.4731578826904297, + "covertype_test_precision": 0.6804591417312622, + "covertype_test_recall": 0.4731578826904297, + "covertype_test_f1-score": 0.535348117351532, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.4731578826904297 + }, + "10": { + "covertype_test_loss": 1.5061589479446411, + "covertype_test_accuracy": 0.476666659116745, + "covertype_test_precision": 0.6907323598861694, + "covertype_test_recall": 0.476666659116745, + "covertype_test_f1-score": 0.5430334210395813, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.476666659116745 + }, + "20": { + "covertype_test_loss": 1.351141095161438, + "covertype_test_accuracy": 0.49562498927116394, + "covertype_test_precision": 0.6966254711151123, + "covertype_test_recall": 0.49562498927116394, + "covertype_test_f1-score": 0.5602386593818665, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.49562498927116394 + }, + "50": { + "covertype_test_loss": 1.0697516202926636, + "covertype_test_accuracy": 0.5770000219345093, + "covertype_test_precision": 0.7224348187446594, + "covertype_test_recall": 0.5770000219345093, + "covertype_test_f1-score": 0.6322358250617981, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.5770000219345093 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6613482236862183, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.728728711605072, + "covertype_val_precision": 0.7240728139877319, + "covertype_val_recall": 0.728728711605072, + "covertype_val_f1-score": 0.7168851494789124, + "covertype_val_support": 999.0, + "covertype_val_score": 0.728728711605072 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6478549242019653, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7174999713897705, + "covertype_test_precision": 0.7114344239234924, + "covertype_test_recall": 0.7174999713897705, + "covertype_test_f1-score": 0.7071945667266846, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7174999713897705 + }, + "5": { + "covertype_test_loss": 0.6235989928245544, + "covertype_test_accuracy": 0.7300000190734863, + "covertype_test_precision": 0.7228783369064331, + "covertype_test_recall": 0.7300000190734863, + "covertype_test_f1-score": 0.7221899628639221, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7300000190734863 + }, + "10": { + "covertype_test_loss": 0.6021618247032166, + "covertype_test_accuracy": 0.7355555295944214, + "covertype_test_precision": 0.7262019515037537, + "covertype_test_recall": 0.7355555295944214, + "covertype_test_f1-score": 0.7288719415664673, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7355555295944214 + }, + "20": { + "covertype_test_loss": 0.58834308385849, + "covertype_test_accuracy": 0.7393749952316284, + "covertype_test_precision": 0.7292241454124451, + "covertype_test_recall": 0.7393749952316284, + "covertype_test_f1-score": 0.7322946786880493, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7393749952316284 + }, + "50": { + "covertype_test_loss": 0.547527015209198, + "covertype_test_accuracy": 0.7559999823570251, + "covertype_test_precision": 0.7450767755508423, + "covertype_test_recall": 0.7559999823570251, + "covertype_test_f1-score": 0.7492562532424927, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7559999823570251 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.9067985534667968, + "std": 0.5073149427668014, + "n": 5, + "ci95": 0.6298137155451362 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.6538999974727631, + "std": 0.10759612475391357, + "n": 5, + "ci95": 0.13357681668105376 + }, + "covertype_test_precision": { + "mean": 0.6940910935401916, + "std": 0.018214438833443567, + "n": 5, + "ci95": 0.022612587233674156 + }, + "covertype_test_recall": { + "mean": 0.6538999974727631, + "std": 0.10759612475391357, + "n": 5, + "ci95": 0.13357681668105376 + }, + "covertype_test_f1-score": { + "mean": 0.6540375351905823, + "std": 0.07791041966643517, + "n": 5, + "ci95": 0.0967230545628814 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6538999974727631, + "std": 0.10759612475391357, + "n": 5, + "ci95": 0.13357681668105376 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.8337637305259704, + "std": 0.3984621075958178, + "n": 5, + "ci95": 0.49467673694016495 + }, + "covertype_test_accuracy": { + "mean": 0.6629473686218261, + "std": 0.11080516480845541, + "n": 5, + "ci95": 0.13756072740337838 + }, + "covertype_test_precision": { + "mean": 0.7059954285621644, + "std": 0.017128716131114607, + "n": 5, + "ci95": 0.021264700562967843 + }, + "covertype_test_recall": { + "mean": 0.6629473686218261, + "std": 0.11080516480845541, + "n": 5, + "ci95": 0.13756072740337838 + }, + "covertype_test_f1-score": { + "mean": 0.666189181804657, + "std": 0.08063643863871564, + "n": 5, + "ci95": 0.10010731154576255 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6629473686218261, + "std": 0.11080516480845541, + "n": 5, + "ci95": 0.13756072740337838 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.8082438230514526, + "std": 0.3930584015181271, + "n": 5, + "ci95": 0.4879682252926603 + }, + "covertype_test_accuracy": { + "mean": 0.6681111037731171, + "std": 0.11248017335242548, + "n": 5, + "ci95": 0.13964019178677337 + }, + "covertype_test_precision": { + "mean": 0.7125935316085815, + "std": 0.015951045005033998, + "n": 5, + "ci95": 0.019802663147783724 + }, + "covertype_test_recall": { + "mean": 0.6681111037731171, + "std": 0.11248017335242548, + "n": 5, + "ci95": 0.13964019178677337 + }, + "covertype_test_f1-score": { + "mean": 0.6729298949241638, + "std": 0.08174001698590015, + "n": 5, + "ci95": 0.10147736537355789 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6681111037731171, + "std": 0.11248017335242548, + "n": 5, + "ci95": 0.13964019178677337 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.7636795997619629, + "std": 0.33156417326058185, + "n": 5, + "ci95": 0.4116252968304322 + }, + "covertype_test_accuracy": { + "mean": 0.6756250083446502, + "std": 0.10702931820386201, + "n": 5, + "ci95": 0.13287314622077442 + }, + "covertype_test_precision": { + "mean": 0.7187120676040649, + "std": 0.015893850870884296, + "n": 5, + "ci95": 0.01973165863539985 + }, + "covertype_test_recall": { + "mean": 0.6756250083446502, + "std": 0.10702931820386201, + "n": 5, + "ci95": 0.13287314622077442 + }, + "covertype_test_f1-score": { + "mean": 0.6797802448272705, + "std": 0.07721065617172293, + "n": 5, + "ci95": 0.09585432271712901 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6756250083446502, + "std": 0.10702931820386201, + "n": 5, + "ci95": 0.13287314622077442 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6685168981552124, + "std": 0.22727998171425695, + "n": 5, + "ci95": 0.2821601291138907 + }, + "covertype_test_accuracy": { + "mean": 0.7040000081062316, + "std": 0.07918963710487631, + "n": 5, + "ci95": 0.0983111581647599 + }, + "covertype_test_precision": { + "mean": 0.7372354030609131, + "std": 0.012812884746115088, + "n": 5, + "ci95": 0.015906747206757863 + }, + "covertype_test_recall": { + "mean": 0.7040000081062316, + "std": 0.07918963710487631, + "n": 5, + "ci95": 0.0983111581647599 + }, + "covertype_test_f1-score": { + "mean": 0.7063723206520081, + "std": 0.05590731742559297, + "n": 5, + "ci95": 0.06940697453526351 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7040000081062316, + "std": 0.07918963710487631, + "n": 5, + "ci95": 0.0983111581647599 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..88b0f755b942bd53ddb348a6198cbd4212d85a31 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmplljvyb9t", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmplljvyb9t/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5885348916053772, + "lr": 0.0, + "covertype_val_accuracy": 0.7607607841491699, + "covertype_val_precision": 0.7599819302558899, + "covertype_val_recall": 0.7607607841491699, + "covertype_val_f1-score": 0.7596368789672852, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7607607841491699 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5473254919052124, + "lr": 0.0, + "covertype_test_accuracy": 0.7889999747276306, + "covertype_test_precision": 0.790776789188385, + "covertype_test_recall": 0.7889999747276306, + "covertype_test_f1-score": 0.7894580960273743, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7889999747276306 + }, + "5": { + "covertype_test_loss": 0.5263126492500305, + "covertype_test_accuracy": 0.7952631711959839, + "covertype_test_precision": 0.797870934009552, + "covertype_test_recall": 0.7952631711959839, + "covertype_test_f1-score": 0.7956768870353699, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7952631711959839 + }, + "10": { + "covertype_test_loss": 0.4978145360946655, + "covertype_test_accuracy": 0.8027777671813965, + "covertype_test_precision": 0.8032350540161133, + "covertype_test_recall": 0.8027777671813965, + "covertype_test_f1-score": 0.8025153875350952, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8027777671813965 + }, + "20": { + "covertype_test_loss": 0.48371365666389465, + "covertype_test_accuracy": 0.8056250214576721, + "covertype_test_precision": 0.8051018714904785, + "covertype_test_recall": 0.8056250214576721, + "covertype_test_f1-score": 0.8049532771110535, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8056250214576721 + }, + "50": { + "covertype_test_loss": 0.46011191606521606, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8094245195388794, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8096053004264832, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8100000023841858 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.580754816532135, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7677677869796753, + "covertype_val_precision": 0.7721571326255798, + "covertype_val_recall": 0.7677677869796753, + "covertype_val_f1-score": 0.7670297622680664, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7677677869796753 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5603300333023071, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7735000252723694, + "covertype_test_precision": 0.7789701819419861, + "covertype_test_recall": 0.7735000252723694, + "covertype_test_f1-score": 0.774043083190918, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7735000252723694 + }, + "5": { + "covertype_test_loss": 0.5472795963287354, + "covertype_test_accuracy": 0.7784210443496704, + "covertype_test_precision": 0.7838848829269409, + "covertype_test_recall": 0.7784210443496704, + "covertype_test_f1-score": 0.7792419791221619, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7784210443496704 + }, + "10": { + "covertype_test_loss": 0.5117995142936707, + "covertype_test_accuracy": 0.7877777814865112, + "covertype_test_precision": 0.7912464737892151, + "covertype_test_recall": 0.7877777814865112, + "covertype_test_f1-score": 0.7881280779838562, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7877777814865112 + }, + "20": { + "covertype_test_loss": 0.498172402381897, + "covertype_test_accuracy": 0.7906249761581421, + "covertype_test_precision": 0.7924374938011169, + "covertype_test_recall": 0.7906249761581421, + "covertype_test_f1-score": 0.7902324199676514, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7906249761581421 + }, + "50": { + "covertype_test_loss": 0.4675356447696686, + "covertype_test_accuracy": 0.7979999780654907, + "covertype_test_precision": 0.7990789413452148, + "covertype_test_recall": 0.7979999780654907, + "covertype_test_f1-score": 0.796908438205719, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7979999780654907 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6266632676124573, + "lr": 0.0, + "covertype_val_accuracy": 0.7467467188835144, + "covertype_val_precision": 0.7476580142974854, + "covertype_val_recall": 0.7467467188835144, + "covertype_val_f1-score": 0.7410922646522522, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7467467188835144 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5707172155380249, + "lr": 0.0, + "covertype_test_accuracy": 0.7695000171661377, + "covertype_test_precision": 0.7741323113441467, + "covertype_test_recall": 0.7695000171661377, + "covertype_test_f1-score": 0.7675052881240845, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7695000171661377 + }, + "5": { + "covertype_test_loss": 0.5526660680770874, + "covertype_test_accuracy": 0.7763158082962036, + "covertype_test_precision": 0.7811781764030457, + "covertype_test_recall": 0.7763158082962036, + "covertype_test_f1-score": 0.7745872139930725, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7763158082962036 + }, + "10": { + "covertype_test_loss": 0.5294274687767029, + "covertype_test_accuracy": 0.7838888764381409, + "covertype_test_precision": 0.7886626720428467, + "covertype_test_recall": 0.7838888764381409, + "covertype_test_f1-score": 0.781563401222229, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7838888764381409 + }, + "20": { + "covertype_test_loss": 0.5176406502723694, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7904096841812134, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7833927273750305, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7850000262260437 + }, + "50": { + "covertype_test_loss": 0.49462980031967163, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7952941656112671, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7871125340461731, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7870000004768372 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6039073467254639, + "lr": 0.0, + "covertype_val_accuracy": 0.7687687873840332, + "covertype_val_precision": 0.7619017958641052, + "covertype_val_recall": 0.7687687873840332, + "covertype_val_f1-score": 0.7650432586669922, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7687687873840332 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5527156591415405, + "lr": 0.0, + "covertype_test_accuracy": 0.7879999876022339, + "covertype_test_precision": 0.7882178425788879, + "covertype_test_recall": 0.7879999876022339, + "covertype_test_f1-score": 0.7880088686943054, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7879999876022339 + }, + "5": { + "covertype_test_loss": 0.5262452960014343, + "covertype_test_accuracy": 0.7957894802093506, + "covertype_test_precision": 0.79623943567276, + "covertype_test_recall": 0.7957894802093506, + "covertype_test_f1-score": 0.7952359318733215, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7957894802093506 + }, + "10": { + "covertype_test_loss": 0.5020907521247864, + "covertype_test_accuracy": 0.804444432258606, + "covertype_test_precision": 0.8032446503639221, + "covertype_test_recall": 0.804444432258606, + "covertype_test_f1-score": 0.8032582402229309, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.804444432258606 + }, + "20": { + "covertype_test_loss": 0.4861563742160797, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8080751299858093, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8086224794387817, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8100000023841858 + }, + "50": { + "covertype_test_loss": 0.4664227068424225, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8097686171531677, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8094744086265564, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8100000023841858 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6171169281005859, + "lr": 0.0, + "covertype_val_accuracy": 0.7407407164573669, + "covertype_val_precision": 0.7399091124534607, + "covertype_val_recall": 0.7407407164573669, + "covertype_val_f1-score": 0.7398251295089722, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7407407164573669 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5886264443397522, + "lr": 0.0, + "covertype_test_accuracy": 0.7695000171661377, + "covertype_test_precision": 0.772334098815918, + "covertype_test_recall": 0.7695000171661377, + "covertype_test_f1-score": 0.7704159617424011, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7695000171661377 + }, + "5": { + "covertype_test_loss": 0.5595293045043945, + "covertype_test_accuracy": 0.774210512638092, + "covertype_test_precision": 0.7772977352142334, + "covertype_test_recall": 0.774210512638092, + "covertype_test_f1-score": 0.7747802734375, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.774210512638092 + }, + "10": { + "covertype_test_loss": 0.5357719659805298, + "covertype_test_accuracy": 0.7833333611488342, + "covertype_test_precision": 0.7828392386436462, + "covertype_test_recall": 0.7833333611488342, + "covertype_test_f1-score": 0.7828108072280884, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7833333611488342 + }, + "20": { + "covertype_test_loss": 0.5300244092941284, + "covertype_test_accuracy": 0.7856249809265137, + "covertype_test_precision": 0.7845371961593628, + "covertype_test_recall": 0.7856249809265137, + "covertype_test_f1-score": 0.7848573923110962, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7856249809265137 + }, + "50": { + "covertype_test_loss": 0.516923725605011, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7891433835029602, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7869356870651245, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7860000133514404 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5639429688453674, + "std": 0.01635856585260007, + "n": 5, + "ci95": 0.020308585992807573 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198932, + "n": 5, + "ci95": 0.0002776000455021858 + }, + "covertype_test_accuracy": { + "mean": 0.7779000043869019, + "std": 0.009819602707612096, + "n": 5, + "ci95": 0.012190692497108462 + }, + "covertype_test_precision": { + "mean": 0.7808862447738647, + "std": 0.008276492451893703, + "n": 5, + "ci95": 0.010274975214370055 + }, + "covertype_test_recall": { + "mean": 0.7779000043869019, + "std": 0.009819602707612096, + "n": 5, + "ci95": 0.012190692497108462 + }, + "covertype_test_f1-score": { + "mean": 0.7778862595558167, + "std": 0.010182270583646406, + "n": 5, + "ci95": 0.012640931950471114 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7779000043869019, + "std": 0.009819602707612096, + "n": 5, + "ci95": 0.012190692497108462 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5424065828323364, + "std": 0.01534920833190169, + "n": 5, + "ci95": 0.01905550401781696 + }, + "covertype_test_accuracy": { + "mean": 0.7840000033378601, + "std": 0.010628458026621828, + "n": 5, + "ci95": 0.013194858018087674 + }, + "covertype_test_precision": { + "mean": 0.7872942328453064, + "std": 0.009230967437122508, + "n": 5, + "ci95": 0.011459922445696082 + }, + "covertype_test_recall": { + "mean": 0.7840000033378601, + "std": 0.010628458026621828, + "n": 5, + "ci95": 0.013194858018087674 + }, + "covertype_test_f1-score": { + "mean": 0.7839044570922852, + "std": 0.010709725424072043, + "n": 5, + "ci95": 0.013295748642877196 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7840000033378601, + "std": 0.010628458026621828, + "n": 5, + "ci95": 0.013194858018087674 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5153808474540711, + "std": 0.016666832041395428, + "n": 5, + "ci95": 0.020691287658725955 + }, + "covertype_test_accuracy": { + "mean": 0.7924444437026977, + "std": 0.010353315800010773, + "n": 5, + "ci95": 0.01285327858993169 + }, + "covertype_test_precision": { + "mean": 0.7938456177711487, + "std": 0.009100304720693963, + "n": 5, + "ci95": 0.01129770926414012 + }, + "covertype_test_recall": { + "mean": 0.7924444437026977, + "std": 0.010353315800010773, + "n": 5, + "ci95": 0.01285327858993169 + }, + "covertype_test_f1-score": { + "mean": 0.7916551828384399, + "std": 0.010548489127625653, + "n": 5, + "ci95": 0.013095579433604926 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7924444437026977, + "std": 0.010353315800010773, + "n": 5, + "ci95": 0.01285327858993169 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5031414985656738, + "std": 0.020146610735202825, + "n": 5, + "ci95": 0.02501131090990202 + }, + "covertype_test_accuracy": { + "mean": 0.7953750014305114, + "std": 0.011664254303876603, + "n": 5, + "ci95": 0.014480762782429539 + }, + "covertype_test_precision": { + "mean": 0.7961122751235962, + "std": 0.01004898942115907, + "n": 5, + "ci95": 0.012475468059932986 + }, + "covertype_test_recall": { + "mean": 0.7953750014305114, + "std": 0.011664254303876603, + "n": 5, + "ci95": 0.014480762782429539 + }, + "covertype_test_f1-score": { + "mean": 0.7944116592407227, + "std": 0.011653755134618013, + "n": 5, + "ci95": 0.014467728431884241 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7953750014305114, + "std": 0.011664254303876603, + "n": 5, + "ci95": 0.014480762782429539 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.48112475872039795, + "std": 0.02401200784213887, + "n": 5, + "ci95": 0.02981006590162296 + }, + "covertype_test_accuracy": { + "mean": 0.798199999332428, + "std": 0.0117558473200759, + "n": 5, + "ci95": 0.014594472300891292 + }, + "covertype_test_precision": { + "mean": 0.8005419254302979, + "std": 0.008994976123750928, + "n": 5, + "ci95": 0.01116694750373926 + }, + "covertype_test_recall": { + "mean": 0.798199999332428, + "std": 0.0117558473200759, + "n": 5, + "ci95": 0.014594472300891292 + }, + "covertype_test_f1-score": { + "mean": 0.7980072736740113, + "std": 0.011274886136384936, + "n": 5, + "ci95": 0.01399737585330521 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.798199999332428, + "std": 0.0117558473200759, + "n": 5, + "ci95": 0.014594472300891292 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..03e72519984a6c008e2e43310e142c62208a46bb --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:24bd99a6ed11b5b53171a116ce9e2f008f3689394d682f9686a55db4f770b464 +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..542cc8ccf3668f46723012abd099d87a7f900e9c --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:2f43a0184e73847918685ad8b44947ff87c3246b5a35f5d65ce89f7fb0c6c1f4 +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..044fe002205667cc55e567c4490b26b4ff827c63 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:82b0367bc0216094cdac7086ed96035561e0339b621c967f187b920c0652ce64 +size 11507024 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/vtjepa_config.yaml b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..5f6fdb8034d465751f4cdfeae92ebbe59540ac51 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q4-gpu3-delay60-kl3e-8/pretrain/wjepa_joint/covertype/20260918_032422/vtjepa_config.yaml @@ -0,0 +1,131 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 25 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +predictive_target_detach: false +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 40 +vtjepa_kl_y_end_weight: 3.0e-08 +vtjepa_kl_y_start_epoch: 60 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..5ff5c84e3de80c7ea2aa8da3c10c11459676e44d --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "b8eee4631a2599941fc2db8b4cc17c3f383722749838b9bc7e0267e77537cf6e", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "6f549d93958ab1affbd2c77d8a8ce98e02e4150e008e9989bbcc31323e709a76", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 7e-08, + "start_epoch": 60, + "annealing_epochs": 40 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "25", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "7e-08", + "--vtjepa_kl_y_annealing_epochs", + "40", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "60", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..8d76f0814b357dcbe573e697cce597b2ef92cfe6 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpqolqhobc", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpqolqhobc/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6381216645240784, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7367367148399353, + "covertype_val_precision": 0.739548921585083, + "covertype_val_recall": 0.7367367148399353, + "covertype_val_f1-score": 0.733980119228363, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7367367148399353 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6209115982055664, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7465000152587891, + "covertype_test_precision": 0.7482937574386597, + "covertype_test_recall": 0.7465000152587891, + "covertype_test_f1-score": 0.7454313635826111, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7465000152587891 + }, + "5": { + "covertype_test_loss": 0.600235641002655, + "covertype_test_accuracy": 0.7542105317115784, + "covertype_test_precision": 0.7567058801651001, + "covertype_test_recall": 0.7542105317115784, + "covertype_test_f1-score": 0.7533096671104431, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7542105317115784 + }, + "10": { + "covertype_test_loss": 0.5909186601638794, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7606133222579956, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7584498524665833, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7599999904632568 + }, + "20": { + "covertype_test_loss": 0.5692381858825684, + "covertype_test_accuracy": 0.7631250023841858, + "covertype_test_precision": 0.7630250453948975, + "covertype_test_recall": 0.7631250023841858, + "covertype_test_f1-score": 0.7609974145889282, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7631250023841858 + }, + "50": { + "covertype_test_loss": 0.5604851841926575, + "covertype_test_accuracy": 0.7639999985694885, + "covertype_test_precision": 0.7656359076499939, + "covertype_test_recall": 0.7639999985694885, + "covertype_test_f1-score": 0.7625581622123718, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7639999985694885 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6319354176521301, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7507507801055908, + "covertype_val_precision": 0.7509322166442871, + "covertype_val_recall": 0.7507507801055908, + "covertype_val_f1-score": 0.7475823760032654, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7507507801055908 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.620919406414032, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7754999995231628, + "covertype_test_precision": 0.7755793333053589, + "covertype_test_recall": 0.7754999995231628, + "covertype_test_f1-score": 0.7732473611831665, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7754999995231628 + }, + "5": { + "covertype_test_loss": 0.5969337821006775, + "covertype_test_accuracy": 0.7810526490211487, + "covertype_test_precision": 0.7795365452766418, + "covertype_test_recall": 0.7810526490211487, + "covertype_test_f1-score": 0.7784698605537415, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7810526490211487 + }, + "10": { + "covertype_test_loss": 0.5812969207763672, + "covertype_test_accuracy": 0.7866666913032532, + "covertype_test_precision": 0.7853887677192688, + "covertype_test_recall": 0.7866666913032532, + "covertype_test_f1-score": 0.7841784358024597, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7866666913032532 + }, + "20": { + "covertype_test_loss": 0.5484210848808289, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7938016057014465, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7920174598693848, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7950000166893005 + }, + "50": { + "covertype_test_loss": 0.5284652709960938, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.7927936911582947, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7911950945854187, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7919999957084656 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6381853222846985, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7514950037002563, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7509081363677979, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.60224449634552, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7419999837875366, + "covertype_test_precision": 0.7432849407196045, + "covertype_test_recall": 0.7419999837875366, + "covertype_test_f1-score": 0.7414668798446655, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7419999837875366 + }, + "5": { + "covertype_test_loss": 0.5785699486732483, + "covertype_test_accuracy": 0.7489473819732666, + "covertype_test_precision": 0.7485052347183228, + "covertype_test_recall": 0.7489473819732666, + "covertype_test_f1-score": 0.7480990886688232, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7489473819732666 + }, + "10": { + "covertype_test_loss": 0.5556561350822449, + "covertype_test_accuracy": 0.7555555701255798, + "covertype_test_precision": 0.7551110982894897, + "covertype_test_recall": 0.7555555701255798, + "covertype_test_f1-score": 0.7545481324195862, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7555555701255798 + }, + "20": { + "covertype_test_loss": 0.5351080894470215, + "covertype_test_accuracy": 0.7612500190734863, + "covertype_test_precision": 0.7595040798187256, + "covertype_test_recall": 0.7612500190734863, + "covertype_test_f1-score": 0.7596027851104736, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7612500190734863 + }, + "50": { + "covertype_test_loss": 0.5132209658622742, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7750799059867859, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7741355895996094, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7749999761581421 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6373259425163269, + "lr": 2.4471739379805513e-05, + "covertype_val_accuracy": 0.7427427172660828, + "covertype_val_precision": 0.7412256002426147, + "covertype_val_recall": 0.7427427172660828, + "covertype_val_f1-score": 0.7398338913917542, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7427427172660828 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5930576920509338, + "lr": 2.4471744836773723e-05, + "covertype_test_accuracy": 0.7674999833106995, + "covertype_test_precision": 0.7678418755531311, + "covertype_test_recall": 0.7674999833106995, + "covertype_test_f1-score": 0.7661001682281494, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7674999833106995 + }, + "5": { + "covertype_test_loss": 0.5616927146911621, + "covertype_test_accuracy": 0.7768421173095703, + "covertype_test_precision": 0.7782352566719055, + "covertype_test_recall": 0.7768421173095703, + "covertype_test_f1-score": 0.7753920555114746, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7768421173095703 + }, + "10": { + "covertype_test_loss": 0.5451684594154358, + "covertype_test_accuracy": 0.7827777862548828, + "covertype_test_precision": 0.7814521789550781, + "covertype_test_recall": 0.7827777862548828, + "covertype_test_f1-score": 0.7802667021751404, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7827777862548828 + }, + "20": { + "covertype_test_loss": 0.5250647664070129, + "covertype_test_accuracy": 0.7862499952316284, + "covertype_test_precision": 0.7843642234802246, + "covertype_test_recall": 0.7862499952316284, + "covertype_test_f1-score": 0.7833113670349121, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7862499952316284 + }, + "50": { + "covertype_test_loss": 0.4942110776901245, + "covertype_test_accuracy": 0.7940000295639038, + "covertype_test_precision": 0.7926081418991089, + "covertype_test_recall": 0.7940000295639038, + "covertype_test_f1-score": 0.7913925647735596, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7940000295639038 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.627815306186676, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7447447180747986, + "covertype_val_precision": 0.7404875755310059, + "covertype_val_recall": 0.7447447180747986, + "covertype_val_f1-score": 0.7413784861564636, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7447447180747986 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6005390286445618, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7590000033378601, + "covertype_test_precision": 0.7574308514595032, + "covertype_test_recall": 0.7590000033378601, + "covertype_test_f1-score": 0.7572677135467529, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7590000033378601 + }, + "5": { + "covertype_test_loss": 0.5798146724700928, + "covertype_test_accuracy": 0.7663158178329468, + "covertype_test_precision": 0.7652165293693542, + "covertype_test_recall": 0.7663158178329468, + "covertype_test_f1-score": 0.7648008465766907, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7663158178329468 + }, + "10": { + "covertype_test_loss": 0.563737154006958, + "covertype_test_accuracy": 0.7716666460037231, + "covertype_test_precision": 0.7691767811775208, + "covertype_test_recall": 0.7716666460037231, + "covertype_test_f1-score": 0.7694787383079529, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7716666460037231 + }, + "20": { + "covertype_test_loss": 0.5401344895362854, + "covertype_test_accuracy": 0.7793750166893005, + "covertype_test_precision": 0.7744287252426147, + "covertype_test_recall": 0.7793750166893005, + "covertype_test_f1-score": 0.775648832321167, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7793750166893005 + }, + "50": { + "covertype_test_loss": 0.5057251453399658, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7886846661567688, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.787450909614563, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7900000214576721 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6075344443321228, + "std": 0.01269449883455016, + "n": 5, + "ci95": 0.015759775248028907 + }, + "lr": { + "mean": 8.83155285009707e-06, + "std": 9.587782355738594e-06, + "n": 5, + "ci95": 1.1902895657622213e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7580999970436096, + "std": 0.014015168958074689, + "n": 5, + "ci95": 0.017399340905153222 + }, + "covertype_test_precision": { + "mean": 0.7584861516952515, + "std": 0.01337704938370677, + "n": 5, + "ci95": 0.01660713782534077 + }, + "covertype_test_recall": { + "mean": 0.7580999970436096, + "std": 0.014015168958074689, + "n": 5, + "ci95": 0.017399340905153222 + }, + "covertype_test_f1-score": { + "mean": 0.7567026972770691, + "std": 0.01343066178109334, + "n": 5, + "ci95": 0.01667369573710494 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7580999970436096, + "std": 0.014015168958074689, + "n": 5, + "ci95": 0.017399340905153222 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5834493517875672, + "std": 0.015604327065907657, + "n": 5, + "ci95": 0.019372224981905196 + }, + "covertype_test_accuracy": { + "mean": 0.7654736995697021, + "std": 0.013898128242561059, + "n": 5, + "ci95": 0.01725403896016087 + }, + "covertype_test_precision": { + "mean": 0.7656398892402649, + "std": 0.013466184194614502, + "n": 5, + "ci95": 0.016717795568115 + }, + "covertype_test_recall": { + "mean": 0.7654736995697021, + "std": 0.013898128242561059, + "n": 5, + "ci95": 0.01725403896016087 + }, + "covertype_test_f1-score": { + "mean": 0.7640143036842346, + "std": 0.013293967841987704, + "n": 5, + "ci95": 0.016503995004043356 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7654736995697021, + "std": 0.013898128242561059, + "n": 5, + "ci95": 0.01725403896016087 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.567355465888977, + "std": 0.018653538989102037, + "n": 5, + "ci95": 0.023157714682559165 + }, + "covertype_test_accuracy": { + "mean": 0.7713333368301392, + "std": 0.013634340276431619, + "n": 5, + "ci95": 0.01692655544832502 + }, + "covertype_test_precision": { + "mean": 0.7703484296798706, + "std": 0.013017549317506254, + "n": 5, + "ci95": 0.016160831096826866 + }, + "covertype_test_recall": { + "mean": 0.7713333368301392, + "std": 0.013634340276431619, + "n": 5, + "ci95": 0.01692655544832502 + }, + "covertype_test_f1-score": { + "mean": 0.7693843722343445, + "std": 0.013009381818001636, + "n": 5, + "ci95": 0.016150691432535367 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7713333368301392, + "std": 0.013634340276431619, + "n": 5, + "ci95": 0.01692655544832502 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5435933232307434, + "std": 0.016645092398673737, + "n": 5, + "ci95": 0.020664298654454762 + }, + "covertype_test_accuracy": { + "mean": 0.7770000100135803, + "std": 0.01462686889681619, + "n": 5, + "ci95": 0.01815874493357864 + }, + "covertype_test_precision": { + "mean": 0.7750247359275818, + "std": 0.014361715025692525, + "n": 5, + "ci95": 0.01782956569857957 + }, + "covertype_test_recall": { + "mean": 0.7770000100135803, + "std": 0.01462686889681619, + "n": 5, + "ci95": 0.01815874493357864 + }, + "covertype_test_f1-score": { + "mean": 0.7743155717849731, + "std": 0.014052563470921632, + "n": 5, + "ci95": 0.017445764881842515 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7770000100135803, + "std": 0.01462686889681619, + "n": 5, + "ci95": 0.01815874493357864 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5204215288162232, + "std": 0.025615511964171833, + "n": 5, + "ci95": 0.03180076005204886 + }, + "covertype_test_accuracy": { + "mean": 0.7830000042915344, + "std": 0.013000012590346477, + "n": 5, + "ci95": 0.016139059864876227 + }, + "covertype_test_precision": { + "mean": 0.7829604625701905, + "std": 0.012091112261153794, + "n": 5, + "ci95": 0.015010691971222097 + }, + "covertype_test_recall": { + "mean": 0.7830000042915344, + "std": 0.013000012590346477, + "n": 5, + "ci95": 0.016139059864876227 + }, + "covertype_test_f1-score": { + "mean": 0.7813464641571045, + "std": 0.01265089833868446, + "n": 5, + "ci95": 0.015705646760996717 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7830000042915344, + "std": 0.013000012590346477, + "n": 5, + "ci95": 0.016139059864876227 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..a79ddfcecc090271fe7745fc88c128cef04a7eef --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmplazxlmqd", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmplazxlmqd/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5580572485923767, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.7727727890014648, + "covertype_val_precision": 0.7654369473457336, + "covertype_val_recall": 0.7727727890014648, + "covertype_val_f1-score": 0.767732560634613, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7727727890014648 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5591644644737244, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.7849299311637878, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.782984733581543, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7839999794960022 + }, + "5": { + "covertype_test_loss": 0.5383870601654053, + "covertype_test_accuracy": 0.7921052575111389, + "covertype_test_precision": 0.7911565899848938, + "covertype_test_recall": 0.7921052575111389, + "covertype_test_f1-score": 0.7905990481376648, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7921052575111389 + }, + "10": { + "covertype_test_loss": 0.5107046365737915, + "covertype_test_accuracy": 0.7972221970558167, + "covertype_test_precision": 0.7958384156227112, + "covertype_test_recall": 0.7972221970558167, + "covertype_test_f1-score": 0.7956241965293884, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7972221970558167 + }, + "20": { + "covertype_test_loss": 0.49433043599128723, + "covertype_test_accuracy": 0.8018749952316284, + "covertype_test_precision": 0.800279438495636, + "covertype_test_recall": 0.8018749952316284, + "covertype_test_f1-score": 0.80012047290802, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8018749952316284 + }, + "50": { + "covertype_test_loss": 0.48404714465141296, + "covertype_test_accuracy": 0.8159999847412109, + "covertype_test_precision": 0.8150227665901184, + "covertype_test_recall": 0.8159999847412109, + "covertype_test_f1-score": 0.8148064613342285, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8159999847412109 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.571645200252533, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7847847938537598, + "covertype_val_precision": 0.7743257880210876, + "covertype_val_recall": 0.7847847938537598, + "covertype_val_f1-score": 0.7751856446266174, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7847847938537598 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6012750267982483, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7873773574829102, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7843376398086548, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7910000085830688 + }, + "5": { + "covertype_test_loss": 0.5811365246772766, + "covertype_test_accuracy": 0.7989473938941956, + "covertype_test_precision": 0.7940587997436523, + "covertype_test_recall": 0.7989473938941956, + "covertype_test_f1-score": 0.7942656874656677, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7989473938941956 + }, + "10": { + "covertype_test_loss": 0.5289501547813416, + "covertype_test_accuracy": 0.8055555820465088, + "covertype_test_precision": 0.7998396158218384, + "covertype_test_recall": 0.8055555820465088, + "covertype_test_f1-score": 0.801929235458374, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8055555820465088 + }, + "20": { + "covertype_test_loss": 0.5173375606536865, + "covertype_test_accuracy": 0.8125, + "covertype_test_precision": 0.8081173300743103, + "covertype_test_recall": 0.8125, + "covertype_test_f1-score": 0.8096684813499451, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8125 + }, + "50": { + "covertype_test_loss": 0.513247549533844, + "covertype_test_accuracy": 0.8259999752044678, + "covertype_test_precision": 0.8270513415336609, + "covertype_test_recall": 0.8259999752044678, + "covertype_test_f1-score": 0.8253374099731445, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8259999752044678 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.597156286239624, + "lr": 0.0, + "covertype_val_accuracy": 0.7647647857666016, + "covertype_val_precision": 0.7582122683525085, + "covertype_val_recall": 0.7647647857666016, + "covertype_val_f1-score": 0.7606344819068909, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7647647857666016 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6104547381401062, + "lr": 0.0, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7868778109550476, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7851719856262207, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7870000004768372 + }, + "5": { + "covertype_test_loss": 0.5937803983688354, + "covertype_test_accuracy": 0.793684184551239, + "covertype_test_precision": 0.7915579676628113, + "covertype_test_recall": 0.793684184551239, + "covertype_test_f1-score": 0.791361391544342, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.793684184551239 + }, + "10": { + "covertype_test_loss": 0.5472859740257263, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7981083393096924, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7974903583526611, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.800000011920929 + }, + "20": { + "covertype_test_loss": 0.5313027501106262, + "covertype_test_accuracy": 0.8050000071525574, + "covertype_test_precision": 0.8030754923820496, + "covertype_test_recall": 0.8050000071525574, + "covertype_test_f1-score": 0.8023267388343811, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8050000071525574 + }, + "50": { + "covertype_test_loss": 0.5157926678657532, + "covertype_test_accuracy": 0.8119999766349792, + "covertype_test_precision": 0.8106717467308044, + "covertype_test_recall": 0.8119999766349792, + "covertype_test_f1-score": 0.8100623488426208, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8119999766349792 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5828786492347717, + "lr": 0.0, + "covertype_val_accuracy": 0.7757757902145386, + "covertype_val_precision": 0.7693476676940918, + "covertype_val_recall": 0.7757757902145386, + "covertype_val_f1-score": 0.7711852788925171, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7757757902145386 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5866633653640747, + "lr": 0.0, + "covertype_test_accuracy": 0.7795000076293945, + "covertype_test_precision": 0.778802216053009, + "covertype_test_recall": 0.7795000076293945, + "covertype_test_f1-score": 0.778542697429657, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7795000076293945 + }, + "5": { + "covertype_test_loss": 0.5689938068389893, + "covertype_test_accuracy": 0.7847368717193604, + "covertype_test_precision": 0.7829695343971252, + "covertype_test_recall": 0.7847368717193604, + "covertype_test_f1-score": 0.7833622694015503, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7847368717193604 + }, + "10": { + "covertype_test_loss": 0.5327339172363281, + "covertype_test_accuracy": 0.7927777767181396, + "covertype_test_precision": 0.7907384037971497, + "covertype_test_recall": 0.7927777767181396, + "covertype_test_f1-score": 0.7910410165786743, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7927777767181396 + }, + "20": { + "covertype_test_loss": 0.514681339263916, + "covertype_test_accuracy": 0.8006250262260437, + "covertype_test_precision": 0.7987508177757263, + "covertype_test_recall": 0.8006250262260437, + "covertype_test_f1-score": 0.7987701892852783, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8006250262260437 + }, + "50": { + "covertype_test_loss": 0.5064969062805176, + "covertype_test_accuracy": 0.8040000200271606, + "covertype_test_precision": 0.8035959005355835, + "covertype_test_recall": 0.8040000200271606, + "covertype_test_f1-score": 0.8025755882263184, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8040000200271606 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5526898503303528, + "lr": 0.0, + "covertype_val_accuracy": 0.7807807922363281, + "covertype_val_precision": 0.7710714936256409, + "covertype_val_recall": 0.7807807922363281, + "covertype_val_f1-score": 0.7742903232574463, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7807807922363281 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5433869361877441, + "lr": 0.0, + "covertype_test_accuracy": 0.7889999747276306, + "covertype_test_precision": 0.7861393690109253, + "covertype_test_recall": 0.7889999747276306, + "covertype_test_f1-score": 0.7861357927322388, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7889999747276306 + }, + "5": { + "covertype_test_loss": 0.5236651301383972, + "covertype_test_accuracy": 0.7984210252761841, + "covertype_test_precision": 0.7947437167167664, + "covertype_test_recall": 0.7984210252761841, + "covertype_test_f1-score": 0.7960405945777893, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7984210252761841 + }, + "10": { + "covertype_test_loss": 0.5022859573364258, + "covertype_test_accuracy": 0.8066666722297668, + "covertype_test_precision": 0.8026131391525269, + "covertype_test_recall": 0.8066666722297668, + "covertype_test_f1-score": 0.8037752509117126, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8066666722297668 + }, + "20": { + "covertype_test_loss": 0.49139603972435, + "covertype_test_accuracy": 0.8106250166893005, + "covertype_test_precision": 0.8075774908065796, + "covertype_test_recall": 0.8106250166893005, + "covertype_test_f1-score": 0.8079738616943359, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8106250166893005 + }, + "50": { + "covertype_test_loss": 0.47795411944389343, + "covertype_test_accuracy": 0.8130000233650208, + "covertype_test_precision": 0.812106192111969, + "covertype_test_recall": 0.8130000233650208, + "covertype_test_f1-score": 0.8102834224700928, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8130000233650208 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5801889061927795, + "std": 0.028279744664080834, + "n": 5, + "ci95": 0.035108311543939084 + }, + "lr": { + "mean": 9.85856991064793e-07, + "std": 1.7072171832356343e-06, + "n": 5, + "ci95": 2.119450279843993e-06 + }, + "covertype_test_accuracy": { + "mean": 0.7860999941825867, + "std": 0.00450555001643651, + "n": 5, + "ci95": 0.005593482385813974 + }, + "covertype_test_precision": { + "mean": 0.7848253369331359, + "std": 0.0034907400321514187, + "n": 5, + "ci95": 0.004333631368437791 + }, + "covertype_test_recall": { + "mean": 0.7860999941825867, + "std": 0.00450555001643651, + "n": 5, + "ci95": 0.005593482385813974 + }, + "covertype_test_f1-score": { + "mean": 0.7834345698356628, + "std": 0.00296915486437419, + "n": 5, + "ci95": 0.003686101668840489 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7860999941825867, + "std": 0.00450555001643651, + "n": 5, + "ci95": 0.005593482385813974 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5611925840377807, + "std": 0.029364039246861835, + "n": 5, + "ci95": 0.036454425254294896 + }, + "covertype_test_accuracy": { + "mean": 0.7935789465904236, + "std": 0.005758278280197129, + "n": 5, + "ci95": 0.007148700606007732 + }, + "covertype_test_precision": { + "mean": 0.7908973217010498, + "std": 0.00469423004061512, + "n": 5, + "ci95": 0.005827722020919106 + }, + "covertype_test_recall": { + "mean": 0.7935789465904236, + "std": 0.005758278280197129, + "n": 5, + "ci95": 0.007148700606007732 + }, + "covertype_test_f1-score": { + "mean": 0.7911257982254029, + "std": 0.004863627177637402, + "n": 5, + "ci95": 0.006038022627656317 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7935789465904236, + "std": 0.005758278280197129, + "n": 5, + "ci95": 0.007148700606007732 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5243921279907227, + "std": 0.017961900265576106, + "n": 5, + "ci95": 0.022299069455389113 + }, + "covertype_test_accuracy": { + "mean": 0.8004444479942322, + "std": 0.005792193857396602, + "n": 5, + "ci95": 0.0071908056060583135 + }, + "covertype_test_precision": { + "mean": 0.7974275827407837, + "std": 0.004484470299230026, + "n": 5, + "ci95": 0.005567312655933655 + }, + "covertype_test_recall": { + "mean": 0.8004444479942322, + "std": 0.005792193857396602, + "n": 5, + "ci95": 0.0071908056060583135 + }, + "covertype_test_f1-score": { + "mean": 0.7979720115661622, + "std": 0.005077403977831485, + "n": 5, + "ci95": 0.006303419030319496 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8004444479942322, + "std": 0.005792193857396602, + "n": 5, + "ci95": 0.0071908056060583135 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5098096251487731, + "std": 0.016740842699573166, + "n": 5, + "ci95": 0.020783169296121937 + }, + "covertype_test_accuracy": { + "mean": 0.806125009059906, + "std": 0.005255203044501665, + "n": 5, + "ci95": 0.006524150338152228 + }, + "covertype_test_precision": { + "mean": 0.8035601139068603, + "std": 0.004214099987076952, + "n": 5, + "ci95": 0.005231657392279219 + }, + "covertype_test_recall": { + "mean": 0.806125009059906, + "std": 0.005255203044501665, + "n": 5, + "ci95": 0.006524150338152228 + }, + "covertype_test_f1-score": { + "mean": 0.8037719488143921, + "std": 0.004818315949626288, + "n": 5, + "ci95": 0.005981770326641974 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.806125009059906, + "std": 0.005255203044501665, + "n": 5, + "ci95": 0.006524150338152228 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.49950767755508424, + "std": 0.017366766067014983, + "n": 5, + "ci95": 0.021560231212621135 + }, + "covertype_test_accuracy": { + "mean": 0.8141999959945678, + "std": 0.007949827011828992, + "n": 5, + "ci95": 0.009869431523058138 + }, + "covertype_test_precision": { + "mean": 0.8136895895004272, + "std": 0.008570455905916707, + "n": 5, + "ci95": 0.010639920536506593 + }, + "covertype_test_recall": { + "mean": 0.8141999959945678, + "std": 0.007949827011828992, + "n": 5, + "ci95": 0.009869431523058138 + }, + "covertype_test_f1-score": { + "mean": 0.812613046169281, + "std": 0.008357695102234955, + "n": 5, + "ci95": 0.010375785457893761 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8141999959945678, + "std": 0.007949827011828992, + "n": 5, + "ci95": 0.009869431523058138 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..673f2ce67ce05cf3f66e21f0f94d11124400e2e8 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpm3mjfd7b", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpm3mjfd7b/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6045257449150085, + "lr": 0.0, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.7484198808670044, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7445541620254517, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5828344225883484, + "lr": 0.0, + "covertype_test_accuracy": 0.7404999732971191, + "covertype_test_precision": 0.7434765100479126, + "covertype_test_recall": 0.7404999732971191, + "covertype_test_f1-score": 0.736884593963623, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7404999732971191 + }, + "5": { + "covertype_test_loss": 0.568109929561615, + "covertype_test_accuracy": 0.7484210729598999, + "covertype_test_precision": 0.7524762153625488, + "covertype_test_recall": 0.7484210729598999, + "covertype_test_f1-score": 0.7458853125572205, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7484210729598999 + }, + "10": { + "covertype_test_loss": 0.5553045272827148, + "covertype_test_accuracy": 0.754444420337677, + "covertype_test_precision": 0.7576684355735779, + "covertype_test_recall": 0.754444420337677, + "covertype_test_f1-score": 0.7513057589530945, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.754444420337677 + }, + "20": { + "covertype_test_loss": 0.5268697738647461, + "covertype_test_accuracy": 0.7618749737739563, + "covertype_test_precision": 0.7654571533203125, + "covertype_test_recall": 0.7618749737739563, + "covertype_test_f1-score": 0.7580827474594116, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7618749737739563 + }, + "50": { + "covertype_test_loss": 0.5118886232376099, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7618793845176697, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7600483894348145, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7620000243186951 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6035777926445007, + "lr": 0.0, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7405616641044617, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7410123348236084, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5792592167854309, + "lr": 0.0, + "covertype_test_accuracy": 0.7540000081062317, + "covertype_test_precision": 0.7558207511901855, + "covertype_test_recall": 0.7540000081062317, + "covertype_test_f1-score": 0.7522851228713989, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7540000081062317 + }, + "5": { + "covertype_test_loss": 0.5616177916526794, + "covertype_test_accuracy": 0.7605262994766235, + "covertype_test_precision": 0.7625251412391663, + "covertype_test_recall": 0.7605262994766235, + "covertype_test_f1-score": 0.758979856967926, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7605262994766235 + }, + "10": { + "covertype_test_loss": 0.5458093285560608, + "covertype_test_accuracy": 0.7666666507720947, + "covertype_test_precision": 0.7681582570075989, + "covertype_test_recall": 0.7666666507720947, + "covertype_test_f1-score": 0.7648842334747314, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7666666507720947 + }, + "20": { + "covertype_test_loss": 0.5269802212715149, + "covertype_test_accuracy": 0.7743750214576721, + "covertype_test_precision": 0.7768912315368652, + "covertype_test_recall": 0.7743750214576721, + "covertype_test_f1-score": 0.7720659375190735, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7743750214576721 + }, + "50": { + "covertype_test_loss": 0.5111647248268127, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7782330513000488, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7778018712997437, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5869598984718323, + "lr": 0.0, + "covertype_val_accuracy": 0.7517517805099487, + "covertype_val_precision": 0.7508477568626404, + "covertype_val_recall": 0.7517517805099487, + "covertype_val_f1-score": 0.7468886375427246, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7517517805099487 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5724315643310547, + "lr": 0.0, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7529309988021851, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7485302686691284, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7519999742507935 + }, + "5": { + "covertype_test_loss": 0.5521906614303589, + "covertype_test_accuracy": 0.7631579041481018, + "covertype_test_precision": 0.764671802520752, + "covertype_test_recall": 0.7631579041481018, + "covertype_test_f1-score": 0.760399341583252, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7631579041481018 + }, + "10": { + "covertype_test_loss": 0.5333231687545776, + "covertype_test_accuracy": 0.7705555558204651, + "covertype_test_precision": 0.7703816890716553, + "covertype_test_recall": 0.7705555558204651, + "covertype_test_f1-score": 0.7673144340515137, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7705555558204651 + }, + "20": { + "covertype_test_loss": 0.5212762355804443, + "covertype_test_accuracy": 0.7762500047683716, + "covertype_test_precision": 0.7761763334274292, + "covertype_test_recall": 0.7762500047683716, + "covertype_test_f1-score": 0.7727487683296204, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7762500047683716 + }, + "50": { + "covertype_test_loss": 0.49973613023757935, + "covertype_test_accuracy": 0.7720000147819519, + "covertype_test_precision": 0.7723467350006104, + "covertype_test_recall": 0.7720000147819519, + "covertype_test_f1-score": 0.7709686160087585, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7720000147819519 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.600287675857544, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.7456153631210327, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7435340285301208, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5723241567611694, + "lr": 0.0, + "covertype_test_accuracy": 0.7584999799728394, + "covertype_test_precision": 0.7560428977012634, + "covertype_test_recall": 0.7584999799728394, + "covertype_test_f1-score": 0.7546842098236084, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7584999799728394 + }, + "5": { + "covertype_test_loss": 0.554072380065918, + "covertype_test_accuracy": 0.7715789675712585, + "covertype_test_precision": 0.7696918249130249, + "covertype_test_recall": 0.7715789675712585, + "covertype_test_f1-score": 0.7688598036766052, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7715789675712585 + }, + "10": { + "covertype_test_loss": 0.5380949378013611, + "covertype_test_accuracy": 0.7755555510520935, + "covertype_test_precision": 0.7730962634086609, + "covertype_test_recall": 0.7755555510520935, + "covertype_test_f1-score": 0.7723513245582581, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7755555510520935 + }, + "20": { + "covertype_test_loss": 0.5239900350570679, + "covertype_test_accuracy": 0.784375011920929, + "covertype_test_precision": 0.7817868590354919, + "covertype_test_recall": 0.784375011920929, + "covertype_test_f1-score": 0.7800484299659729, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.784375011920929 + }, + "50": { + "covertype_test_loss": 0.5028144717216492, + "covertype_test_accuracy": 0.7929999828338623, + "covertype_test_precision": 0.7922680377960205, + "covertype_test_recall": 0.7929999828338623, + "covertype_test_f1-score": 0.7915428280830383, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7929999828338623 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5987603068351746, + "lr": 0.0, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7475208640098572, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7452762722969055, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5785433053970337, + "lr": 0.0, + "covertype_test_accuracy": 0.7509999871253967, + "covertype_test_precision": 0.7524937391281128, + "covertype_test_recall": 0.7509999871253967, + "covertype_test_f1-score": 0.7488002181053162, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7509999871253967 + }, + "5": { + "covertype_test_loss": 0.5605145692825317, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7617144584655762, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7581076622009277, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7599999904632568 + }, + "10": { + "covertype_test_loss": 0.5437919497489929, + "covertype_test_accuracy": 0.7655555605888367, + "covertype_test_precision": 0.7652946710586548, + "covertype_test_recall": 0.7655555605888367, + "covertype_test_f1-score": 0.7628574371337891, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7655555605888367 + }, + "20": { + "covertype_test_loss": 0.5254777669906616, + "covertype_test_accuracy": 0.7737500071525574, + "covertype_test_precision": 0.7747898101806641, + "covertype_test_recall": 0.7737500071525574, + "covertype_test_f1-score": 0.7708101868629456, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7737500071525574 + }, + "50": { + "covertype_test_loss": 0.5042546987533569, + "covertype_test_accuracy": 0.7689999938011169, + "covertype_test_precision": 0.7714329361915588, + "covertype_test_recall": 0.7689999938011169, + "covertype_test_f1-score": 0.7673420906066895, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7689999938011169 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5770785331726074, + "std": 0.0045888347140348815, + "n": 5, + "ci95": 0.005696877418013124 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7511999845504761, + "std": 0.0066389059413416995, + "n": 5, + "ci95": 0.008241968973488547 + }, + "covertype_test_precision": { + "mean": 0.7521529793739319, + "std": 0.005113378679884195, + "n": 5, + "ci95": 0.006348080361684737 + }, + "covertype_test_recall": { + "mean": 0.7511999845504761, + "std": 0.0066389059413416995, + "n": 5, + "ci95": 0.008241968973488547 + }, + "covertype_test_f1-score": { + "mean": 0.748236882686615, + "std": 0.006841676643630196, + "n": 5, + "ci95": 0.00849370169146354 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7511999845504761, + "std": 0.0066389059413416995, + "n": 5, + "ci95": 0.008241968973488547 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5593010663986206, + "std": 0.006370496349478711, + "n": 5, + "ci95": 0.007908747875333574 + }, + "covertype_test_accuracy": { + "mean": 0.7607368469238281, + "std": 0.008301787069936013, + "n": 5, + "ci95": 0.010306377595868298 + }, + "covertype_test_precision": { + "mean": 0.7622158885002136, + "std": 0.0062675641418618476, + "n": 5, + "ci95": 0.007780961148266398 + }, + "covertype_test_recall": { + "mean": 0.7607368469238281, + "std": 0.008301787069936013, + "n": 5, + "ci95": 0.010306377595868298 + }, + "covertype_test_f1-score": { + "mean": 0.7584463953971863, + "std": 0.008222426563030632, + "n": 5, + "ci95": 0.010207854308836717 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7607368469238281, + "std": 0.008301787069936013, + "n": 5, + "ci95": 0.010306377595868298 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5432647824287414, + "std": 0.008325728983757974, + "n": 5, + "ci95": 0.010336100642501287 + }, + "covertype_test_accuracy": { + "mean": 0.7665555477142334, + "std": 0.007821314617809008, + "n": 5, + "ci95": 0.009709887891384486 + }, + "covertype_test_precision": { + "mean": 0.7669198632240295, + "std": 0.00591388070029156, + "n": 5, + "ci95": 0.007341875555306508 + }, + "covertype_test_recall": { + "mean": 0.7665555477142334, + "std": 0.007821314617809008, + "n": 5, + "ci95": 0.009709887891384486 + }, + "covertype_test_f1-score": { + "mean": 0.7637426376342773, + "std": 0.007804325603804059, + "n": 5, + "ci95": 0.00968879662611335 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7665555477142334, + "std": 0.007821314617809008, + "n": 5, + "ci95": 0.009709887891384486 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5249188065528869, + "std": 0.002371659790412803, + "n": 5, + "ci95": 0.0029443324820327644 + }, + "covertype_test_accuracy": { + "mean": 0.7741250038146973, + "std": 0.008059848983517045, + "n": 5, + "ci95": 0.01000601994366042 + }, + "covertype_test_precision": { + "mean": 0.7750202775001526, + "std": 0.005960914763131423, + "n": 5, + "ci95": 0.007400266695360063 + }, + "covertype_test_recall": { + "mean": 0.7741250038146973, + "std": 0.008059848983517045, + "n": 5, + "ci95": 0.01000601994366042 + }, + "covertype_test_f1-score": { + "mean": 0.7707512140274048, + "std": 0.007947491243120415, + "n": 5, + "ci95": 0.009866531748095902 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7741250038146973, + "std": 0.008059848983517045, + "n": 5, + "ci95": 0.01000601994366042 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5059717297554016, + "std": 0.0053332916991254324, + "n": 5, + "ci95": 0.006621094665165916 + }, + "covertype_test_accuracy": { + "mean": 0.775, + "std": 0.011768587527229398, + "n": 5, + "ci95": 0.01461028882141481 + }, + "covertype_test_precision": { + "mean": 0.7752320289611816, + "std": 0.011183502054869128, + "n": 5, + "ci95": 0.01388392571992799 + }, + "covertype_test_recall": { + "mean": 0.775, + "std": 0.011768587527229398, + "n": 5, + "ci95": 0.01461028882141481 + }, + "covertype_test_f1-score": { + "mean": 0.7735407590866089, + "std": 0.011930161516118256, + "n": 5, + "ci95": 0.014810877264015284 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.775, + "std": 0.011768587527229398, + "n": 5, + "ci95": 0.01461028882141481 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..33443e0d761e93f3dc472e2cd6aab1bd20d9236a --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpysojvxap", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpysojvxap/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.689524233341217, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7057057023048401, + "covertype_val_precision": 0.7111033797264099, + "covertype_val_recall": 0.7057057023048401, + "covertype_val_f1-score": 0.6919637322425842, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7057057023048401 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6818391680717468, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6890000104904175, + "covertype_test_precision": 0.7038695812225342, + "covertype_test_recall": 0.6890000104904175, + "covertype_test_f1-score": 0.6739563941955566, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6890000104904175 + }, + "5": { + "covertype_test_loss": 0.6652114987373352, + "covertype_test_accuracy": 0.698421061038971, + "covertype_test_precision": 0.716253936290741, + "covertype_test_recall": 0.698421061038971, + "covertype_test_f1-score": 0.687298595905304, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.698421061038971 + }, + "10": { + "covertype_test_loss": 0.6508488059043884, + "covertype_test_accuracy": 0.7011111378669739, + "covertype_test_precision": 0.7196560502052307, + "covertype_test_recall": 0.7011111378669739, + "covertype_test_f1-score": 0.692400336265564, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7011111378669739 + }, + "20": { + "covertype_test_loss": 0.6328132152557373, + "covertype_test_accuracy": 0.706250011920929, + "covertype_test_precision": 0.7275416254997253, + "covertype_test_recall": 0.706250011920929, + "covertype_test_f1-score": 0.6979289650917053, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.706250011920929 + }, + "50": { + "covertype_test_loss": 0.5903035402297974, + "covertype_test_accuracy": 0.7170000076293945, + "covertype_test_precision": 0.7375067472457886, + "covertype_test_recall": 0.7170000076293945, + "covertype_test_f1-score": 0.7080303430557251, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7170000076293945 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6530599594116211, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7237237095832825, + "covertype_val_precision": 0.7133634090423584, + "covertype_val_recall": 0.7237237095832825, + "covertype_val_f1-score": 0.7029837965965271, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7237237095832825 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6529668569564819, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7124999761581421, + "covertype_test_precision": 0.7120348811149597, + "covertype_test_recall": 0.7124999761581421, + "covertype_test_f1-score": 0.6909735798835754, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7124999761581421 + }, + "5": { + "covertype_test_loss": 0.6285167932510376, + "covertype_test_accuracy": 0.7231578826904297, + "covertype_test_precision": 0.7193074822425842, + "covertype_test_recall": 0.7231578826904297, + "covertype_test_f1-score": 0.7049117684364319, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7231578826904297 + }, + "10": { + "covertype_test_loss": 0.6054934859275818, + "covertype_test_accuracy": 0.730555534362793, + "covertype_test_precision": 0.7235599160194397, + "covertype_test_recall": 0.730555534362793, + "covertype_test_f1-score": 0.7142698764801025, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.730555534362793 + }, + "20": { + "covertype_test_loss": 0.5896703600883484, + "covertype_test_accuracy": 0.734375, + "covertype_test_precision": 0.7292632460594177, + "covertype_test_recall": 0.734375, + "covertype_test_f1-score": 0.717729926109314, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.734375 + }, + "50": { + "covertype_test_loss": 0.5655218362808228, + "covertype_test_accuracy": 0.7379999756813049, + "covertype_test_precision": 0.7437469363212585, + "covertype_test_recall": 0.7379999756813049, + "covertype_test_f1-score": 0.7209250330924988, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7379999756813049 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.650383472442627, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7207207083702087, + "covertype_val_precision": 0.7040212154388428, + "covertype_val_recall": 0.7207207083702087, + "covertype_val_f1-score": 0.7098999619483948, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7207207083702087 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6407018899917603, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7229999899864197, + "covertype_test_precision": 0.7097206115722656, + "covertype_test_recall": 0.7229999899864197, + "covertype_test_f1-score": 0.7137815356254578, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7229999899864197 + }, + "5": { + "covertype_test_loss": 0.6253998875617981, + "covertype_test_accuracy": 0.7278947234153748, + "covertype_test_precision": 0.7131954431533813, + "covertype_test_recall": 0.7278947234153748, + "covertype_test_f1-score": 0.7186451554298401, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7278947234153748 + }, + "10": { + "covertype_test_loss": 0.6127264499664307, + "covertype_test_accuracy": 0.7361111044883728, + "covertype_test_precision": 0.7255042791366577, + "covertype_test_recall": 0.7361111044883728, + "covertype_test_f1-score": 0.7278104424476624, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7361111044883728 + }, + "20": { + "covertype_test_loss": 0.5946624875068665, + "covertype_test_accuracy": 0.7456250190734863, + "covertype_test_precision": 0.7363691329956055, + "covertype_test_recall": 0.7456250190734863, + "covertype_test_f1-score": 0.7377424836158752, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7456250190734863 + }, + "50": { + "covertype_test_loss": 0.5523447394371033, + "covertype_test_accuracy": 0.7670000195503235, + "covertype_test_precision": 0.7555668950080872, + "covertype_test_recall": 0.7670000195503235, + "covertype_test_f1-score": 0.7612051367759705, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7670000195503235 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 1.0253278017044067, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6276276111602783, + "covertype_val_precision": 0.6684277653694153, + "covertype_val_recall": 0.6276276111602783, + "covertype_val_f1-score": 0.5958584547042847, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6276276111602783 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 1.0504517555236816, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6184999942779541, + "covertype_test_precision": 0.6666087508201599, + "covertype_test_recall": 0.6184999942779541, + "covertype_test_f1-score": 0.5828866958618164, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6184999942779541 + }, + "5": { + "covertype_test_loss": 1.0151218175888062, + "covertype_test_accuracy": 0.6247368454933167, + "covertype_test_precision": 0.6753612160682678, + "covertype_test_recall": 0.6247368454933167, + "covertype_test_f1-score": 0.5896165370941162, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6247368454933167 + }, + "10": { + "covertype_test_loss": 0.9725461006164551, + "covertype_test_accuracy": 0.6288889050483704, + "covertype_test_precision": 0.6812737584114075, + "covertype_test_recall": 0.6288889050483704, + "covertype_test_f1-score": 0.592847466468811, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6288889050483704 + }, + "20": { + "covertype_test_loss": 0.9111875891685486, + "covertype_test_accuracy": 0.6356250047683716, + "covertype_test_precision": 0.6900315880775452, + "covertype_test_recall": 0.6356250047683716, + "covertype_test_f1-score": 0.5959044694900513, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6356250047683716 + }, + "50": { + "covertype_test_loss": 0.8391547799110413, + "covertype_test_accuracy": 0.6570000052452087, + "covertype_test_precision": 0.7330535650253296, + "covertype_test_recall": 0.6570000052452087, + "covertype_test_f1-score": 0.6165899038314819, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6570000052452087 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.7160109877586365, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7097097039222717, + "covertype_val_precision": 0.7021069526672363, + "covertype_val_recall": 0.7097097039222717, + "covertype_val_f1-score": 0.6968340873718262, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7097097039222717 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6982294321060181, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7005000114440918, + "covertype_test_precision": 0.6979449987411499, + "covertype_test_recall": 0.7005000114440918, + "covertype_test_f1-score": 0.6855729818344116, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7005000114440918 + }, + "5": { + "covertype_test_loss": 0.684997022151947, + "covertype_test_accuracy": 0.7094736695289612, + "covertype_test_precision": 0.7089925408363342, + "covertype_test_recall": 0.7094736695289612, + "covertype_test_f1-score": 0.6940502524375916, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7094736695289612 + }, + "10": { + "covertype_test_loss": 0.6623583436012268, + "covertype_test_accuracy": 0.7161111235618591, + "covertype_test_precision": 0.7163302898406982, + "covertype_test_recall": 0.7161111235618591, + "covertype_test_f1-score": 0.6987630724906921, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7161111235618591 + }, + "20": { + "covertype_test_loss": 0.6454846858978271, + "covertype_test_accuracy": 0.7174999713897705, + "covertype_test_precision": 0.7193500995635986, + "covertype_test_recall": 0.7174999713897705, + "covertype_test_f1-score": 0.6976878643035889, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7174999713897705 + }, + "50": { + "covertype_test_loss": 0.6391057372093201, + "covertype_test_accuracy": 0.722000002861023, + "covertype_test_precision": 0.7342093586921692, + "covertype_test_recall": 0.722000002861023, + "covertype_test_f1-score": 0.7024747729301453, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.722000002861023 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.7448378205299377, + "std": 0.1723554577917034, + "n": 5, + "ci95": 0.21397325825699925 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.688699996471405, + "std": 0.041262268654143626, + "n": 5, + "ci95": 0.05122565992469407 + }, + "covertype_test_precision": { + "mean": 0.6980357646942139, + "std": 0.018399794577042366, + "n": 5, + "ci95": 0.02284269989098505 + }, + "covertype_test_recall": { + "mean": 0.688699996471405, + "std": 0.041262268654143626, + "n": 5, + "ci95": 0.05122565992469407 + }, + "covertype_test_f1-score": { + "mean": 0.6694342374801636, + "std": 0.050502505024080026, + "n": 5, + "ci95": 0.06269708942552008 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.688699996471405, + "std": 0.041262268654143626, + "n": 5, + "ci95": 0.05122565992469407 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.7238494038581849, + "std": 0.1647484024094298, + "n": 5, + "ci95": 0.2045293656948406 + }, + "covertype_test_accuracy": { + "mean": 0.6967368364334107, + "std": 0.041886596399373074, + "n": 5, + "ci95": 0.05200074093215737 + }, + "covertype_test_precision": { + "mean": 0.7066221237182617, + "std": 0.01788687987837168, + "n": 5, + "ci95": 0.022205934274806476 + }, + "covertype_test_recall": { + "mean": 0.6967368364334107, + "std": 0.041886596399373074, + "n": 5, + "ci95": 0.05200074093215737 + }, + "covertype_test_f1-score": { + "mean": 0.6789044618606568, + "std": 0.051302759887654585, + "n": 5, + "ci95": 0.06369057778259897 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6967368364334107, + "std": 0.041886596399373074, + "n": 5, + "ci95": 0.05200074093215737 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.7007946372032166, + "std": 0.15383360136431595, + "n": 5, + "ci95": 0.19097902285816407 + }, + "covertype_test_accuracy": { + "mean": 0.7025555610656739, + "std": 0.04336642953013501, + "n": 5, + "ci95": 0.05383790188268822 + }, + "covertype_test_precision": { + "mean": 0.7132648587226867, + "std": 0.01823092367685675, + "n": 5, + "ci95": 0.022633052588831276 + }, + "covertype_test_recall": { + "mean": 0.7025555610656739, + "std": 0.04336642953013501, + "n": 5, + "ci95": 0.05383790188268822 + }, + "covertype_test_f1-score": { + "mean": 0.6852182388305664, + "std": 0.05344506078262427, + "n": 5, + "ci95": 0.06635016923700787 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7025555610656739, + "std": 0.04336642953013501, + "n": 5, + "ci95": 0.05383790188268822 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6747636675834656, + "std": 0.13432278282819407, + "n": 5, + "ci95": 0.16675702567325093 + }, + "covertype_test_accuracy": { + "mean": 0.7078750014305115, + "std": 0.043135415877008546, + "n": 5, + "ci95": 0.053551106531414455 + }, + "covertype_test_precision": { + "mean": 0.7205111384391785, + "std": 0.018082132956141982, + "n": 5, + "ci95": 0.022448334125501717 + }, + "covertype_test_recall": { + "mean": 0.7078750014305115, + "std": 0.043135415877008546, + "n": 5, + "ci95": 0.053551106531414455 + }, + "covertype_test_f1-score": { + "mean": 0.6893987417221069, + "std": 0.05482341332218613, + "n": 5, + "ci95": 0.06806134559136094 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7078750014305115, + "std": 0.043135415877008546, + "n": 5, + "ci95": 0.053551106531414455 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6372861266136169, + "std": 0.11760822697901362, + "n": 5, + "ci95": 0.14600649058030368 + }, + "covertype_test_accuracy": { + "mean": 0.7202000021934509, + "std": 0.040357156312861506, + "n": 5, + "ci95": 0.05010199468522824 + }, + "covertype_test_precision": { + "mean": 0.7408167004585267, + "std": 0.00923354683617367, + "n": 5, + "ci95": 0.011463124679187227 + }, + "covertype_test_recall": { + "mean": 0.7202000021934509, + "std": 0.040357156312861506, + "n": 5, + "ci95": 0.05010199468522824 + }, + "covertype_test_f1-score": { + "mean": 0.7018450379371644, + "std": 0.05290264645135767, + "n": 5, + "ci95": 0.0656767808611859 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7202000021934509, + "std": 0.040357156312861506, + "n": 5, + "ci95": 0.05010199468522824 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..fe0128da2f214311094700144a4ba49f0868e919 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp9bxpyvgj", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp9bxpyvgj/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5776512622833252, + "lr": 0.0, + "covertype_val_accuracy": 0.7667667865753174, + "covertype_val_precision": 0.7606028914451599, + "covertype_val_recall": 0.7667667865753174, + "covertype_val_f1-score": 0.7625685334205627, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7667667865753174 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5420197248458862, + "lr": 0.0, + "covertype_test_accuracy": 0.7804999947547913, + "covertype_test_precision": 0.7816327214241028, + "covertype_test_recall": 0.7804999947547913, + "covertype_test_f1-score": 0.7803139090538025, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7804999947547913 + }, + "5": { + "covertype_test_loss": 0.5156829357147217, + "covertype_test_accuracy": 0.7894737124443054, + "covertype_test_precision": 0.7918364405632019, + "covertype_test_recall": 0.7894737124443054, + "covertype_test_f1-score": 0.7895860075950623, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7894737124443054 + }, + "10": { + "covertype_test_loss": 0.49216511845588684, + "covertype_test_accuracy": 0.79666668176651, + "covertype_test_precision": 0.7975693345069885, + "covertype_test_recall": 0.79666668176651, + "covertype_test_f1-score": 0.7964368462562561, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.79666668176651 + }, + "20": { + "covertype_test_loss": 0.4760701358318329, + "covertype_test_accuracy": 0.8012499809265137, + "covertype_test_precision": 0.8014888763427734, + "covertype_test_recall": 0.8012499809265137, + "covertype_test_f1-score": 0.8008936047554016, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8012499809265137 + }, + "50": { + "covertype_test_loss": 0.4631420373916626, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7996662855148315, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7996132373809814, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.800000011920929 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6236695647239685, + "lr": 0.0, + "covertype_val_accuracy": 0.7507507801055908, + "covertype_val_precision": 0.7432553172111511, + "covertype_val_recall": 0.7507507801055908, + "covertype_val_f1-score": 0.7436148524284363, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7507507801055908 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5874897241592407, + "lr": 0.0, + "covertype_test_accuracy": 0.7680000066757202, + "covertype_test_precision": 0.7706983089447021, + "covertype_test_recall": 0.7680000066757202, + "covertype_test_f1-score": 0.7669791579246521, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7680000066757202 + }, + "5": { + "covertype_test_loss": 0.5728352069854736, + "covertype_test_accuracy": 0.7757894992828369, + "covertype_test_precision": 0.7798654437065125, + "covertype_test_recall": 0.7757894992828369, + "covertype_test_f1-score": 0.7756032943725586, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7757894992828369 + }, + "10": { + "covertype_test_loss": 0.5499843955039978, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7821003198623657, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7792460918426514, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7799999713897705 + }, + "20": { + "covertype_test_loss": 0.5383395552635193, + "covertype_test_accuracy": 0.7818750143051147, + "covertype_test_precision": 0.7840684056282043, + "covertype_test_recall": 0.7818750143051147, + "covertype_test_f1-score": 0.7809239029884338, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7818750143051147 + }, + "50": { + "covertype_test_loss": 0.49767574667930603, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.7948880195617676, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7907586693763733, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7919999957084656 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5832487940788269, + "lr": 0.0, + "covertype_val_accuracy": 0.7677677869796753, + "covertype_val_precision": 0.7673165798187256, + "covertype_val_recall": 0.7677677869796753, + "covertype_val_f1-score": 0.7648192048072815, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7677677869796753 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5528793931007385, + "lr": 0.0, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7817011475563049, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7746372222900391, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7749999761581421 + }, + "5": { + "covertype_test_loss": 0.5348520278930664, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7876968383789062, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7800894975662231, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7799999713897705 + }, + "10": { + "covertype_test_loss": 0.5158050060272217, + "covertype_test_accuracy": 0.7827777862548828, + "covertype_test_precision": 0.7899789810180664, + "covertype_test_recall": 0.7827777862548828, + "covertype_test_f1-score": 0.7827747464179993, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7827777862548828 + }, + "20": { + "covertype_test_loss": 0.5030393600463867, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.791742205619812, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7849741578102112, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7850000262260437 + }, + "50": { + "covertype_test_loss": 0.4864360988140106, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7983909845352173, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7893871665000916, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7900000214576721 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5767484903335571, + "lr": 0.0, + "covertype_val_accuracy": 0.7747747898101807, + "covertype_val_precision": 0.7718600630760193, + "covertype_val_recall": 0.7747747898101807, + "covertype_val_f1-score": 0.7724725008010864, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7747747898101807 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5389521718025208, + "lr": 0.0, + "covertype_test_accuracy": 0.7764999866485596, + "covertype_test_precision": 0.7770867347717285, + "covertype_test_recall": 0.7764999866485596, + "covertype_test_f1-score": 0.7759128212928772, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7764999866485596 + }, + "5": { + "covertype_test_loss": 0.5173646211624146, + "covertype_test_accuracy": 0.7842105031013489, + "covertype_test_precision": 0.78321373462677, + "covertype_test_recall": 0.7842105031013489, + "covertype_test_f1-score": 0.783043622970581, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7842105031013489 + }, + "10": { + "covertype_test_loss": 0.5004467964172363, + "covertype_test_accuracy": 0.7883333563804626, + "covertype_test_precision": 0.7867393493652344, + "covertype_test_recall": 0.7883333563804626, + "covertype_test_f1-score": 0.7868367433547974, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7883333563804626 + }, + "20": { + "covertype_test_loss": 0.4876451790332794, + "covertype_test_accuracy": 0.7925000190734863, + "covertype_test_precision": 0.7897697687149048, + "covertype_test_recall": 0.7925000190734863, + "covertype_test_f1-score": 0.7905868887901306, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7925000190734863 + }, + "50": { + "covertype_test_loss": 0.4806172549724579, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7908560037612915, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7892782688140869, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7900000214576721 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6031001210212708, + "lr": 0.0, + "covertype_val_accuracy": 0.7417417168617249, + "covertype_val_precision": 0.7379623055458069, + "covertype_val_recall": 0.7417417168617249, + "covertype_val_f1-score": 0.7387508749961853, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7417417168617249 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5857313275337219, + "lr": 0.0, + "covertype_test_accuracy": 0.7680000066757202, + "covertype_test_precision": 0.7694563269615173, + "covertype_test_recall": 0.7680000066757202, + "covertype_test_f1-score": 0.7683548331260681, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7680000066757202 + }, + "5": { + "covertype_test_loss": 0.5581708550453186, + "covertype_test_accuracy": 0.7736842036247253, + "covertype_test_precision": 0.77536541223526, + "covertype_test_recall": 0.7736842036247253, + "covertype_test_f1-score": 0.773819088935852, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7736842036247253 + }, + "10": { + "covertype_test_loss": 0.5326651930809021, + "covertype_test_accuracy": 0.7811111211776733, + "covertype_test_precision": 0.7802549004554749, + "covertype_test_recall": 0.7811111211776733, + "covertype_test_f1-score": 0.7805129289627075, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7811111211776733 + }, + "20": { + "covertype_test_loss": 0.5196345448493958, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7883357405662537, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7888182997703552, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7900000214576721 + }, + "50": { + "covertype_test_loss": 0.5114454627037048, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7915561199188232, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7894020676612854, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7900000214576721 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5614144682884217, + "std": 0.023583823679410643, + "n": 5, + "ci95": 0.029278490275258234 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7735999941825866, + "std": 0.0054931692556557015, + "n": 5, + "ci95": 0.00681957704646824 + }, + "covertype_test_precision": { + "mean": 0.7761150479316712, + "std": 0.005836802020624676, + "n": 5, + "ci95": 0.007246185076793187 + }, + "covertype_test_recall": { + "mean": 0.7735999941825866, + "std": 0.0054931692556557015, + "n": 5, + "ci95": 0.00681957704646824 + }, + "covertype_test_f1-score": { + "mean": 0.7732395887374878, + "std": 0.005527191672219997, + "n": 5, + "ci95": 0.006861814683844581 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7735999941825866, + "std": 0.0054931692556557015, + "n": 5, + "ci95": 0.00681957704646824 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.539781129360199, + "std": 0.025190637528956956, + "n": 5, + "ci95": 0.031273293336356575 + }, + "covertype_test_accuracy": { + "mean": 0.7806315779685974, + "std": 0.0063855835742661305, + "n": 5, + "ci95": 0.007927478135965766 + }, + "covertype_test_precision": { + "mean": 0.7835955739021301, + "std": 0.006452276482089764, + "n": 5, + "ci95": 0.008010275042849346 + }, + "covertype_test_recall": { + "mean": 0.7806315779685974, + "std": 0.0063855835742661305, + "n": 5, + "ci95": 0.007927478135965766 + }, + "covertype_test_f1-score": { + "mean": 0.7804283022880554, + "std": 0.0062805385899919785, + "n": 5, + "ci95": 0.007797068470750178 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7806315779685974, + "std": 0.0063855835742661305, + "n": 5, + "ci95": 0.007927478135965766 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.518213301897049, + "std": 0.02354897032948951, + "n": 5, + "ci95": 0.02923522106325098 + }, + "covertype_test_accuracy": { + "mean": 0.7857777833938598, + "std": 0.006878588003511501, + "n": 5, + "ci95": 0.008539525850684796 + }, + "covertype_test_precision": { + "mean": 0.787328577041626, + "std": 0.006885065677524159, + "n": 5, + "ci95": 0.008547567655871438 + }, + "covertype_test_recall": { + "mean": 0.7857777833938598, + "std": 0.006878588003511501, + "n": 5, + "ci95": 0.008539525850684796 + }, + "covertype_test_f1-score": { + "mean": 0.7851614713668823, + "std": 0.0069324911199030136, + "n": 5, + "ci95": 0.008606444679901317 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7857777833938598, + "std": 0.006878588003511501, + "n": 5, + "ci95": 0.008539525850684796 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5049457550048828, + "std": 0.0248377338747116, + "n": 5, + "ci95": 0.03083517582202211 + }, + "covertype_test_accuracy": { + "mean": 0.7901250123977661, + "std": 0.007479123544900531, + "n": 5, + "ci95": 0.00928506967120852 + }, + "covertype_test_precision": { + "mean": 0.7910809993743897, + "std": 0.006465163174720685, + "n": 5, + "ci95": 0.00802627341995747 + }, + "covertype_test_recall": { + "mean": 0.7901250123977661, + "std": 0.007479123544900531, + "n": 5, + "ci95": 0.00928506967120852 + }, + "covertype_test_f1-score": { + "mean": 0.7892393708229065, + "std": 0.007502554921598773, + "n": 5, + "ci95": 0.00931415890390128 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7901250123977661, + "std": 0.007479123544900531, + "n": 5, + "ci95": 0.00928506967120852 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4878633201122284, + "std": 0.01815272296608037, + "n": 5, + "ci95": 0.022535969148032686 + }, + "covertype_test_accuracy": { + "mean": 0.7924000144004821, + "std": 0.0043358930925869845, + "n": 5, + "ci95": 0.0053828592628385775 + }, + "covertype_test_precision": { + "mean": 0.7950714826583862, + "std": 0.003946295802086514, + "n": 5, + "ci95": 0.00489918788553162 + }, + "covertype_test_recall": { + "mean": 0.7924000144004821, + "std": 0.0043358930925869845, + "n": 5, + "ci95": 0.0053828592628385775 + }, + "covertype_test_f1-score": { + "mean": 0.7916878819465637, + "std": 0.004472112720042877, + "n": 5, + "ci95": 0.005551971154615845 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7924000144004821, + "std": 0.0043358930925869845, + "n": 5, + "ci95": 0.0053828592628385775 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..06bedddb3fd07572788709d202952712b0d22e70 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:a56357768805b648fc2a68490b13098c4d89d43f9b8fc53168ef70edc62ba0ed +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..0e04d7345dbb2cadc0667dd3a70b777191774d16 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1b7b8135b71d4c57f303c8e44469d11c80dd8eecad96d649a8efb0d24864228f +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..e8136269661ebe2771304b6b369d336145efe8f7 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:a70b0c03782c709963283a42c0db6c6a3c6eb720ad5f926ef5ca16bc8e01d137 +size 11507024 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/vtjepa_config.yaml b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..0a514ee655ae0cbb88bca496b2ba224b2d6626a1 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q5-gpu3-delay60-kl7e-8/pretrain/wjepa_joint/covertype/20260918_032445/vtjepa_config.yaml @@ -0,0 +1,131 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 25 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +predictive_target_detach: false +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 40 +vtjepa_kl_y_end_weight: 7.0e-08 +vtjepa_kl_y_start_epoch: 60 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..4150e03df704914fe8996ab79fdb2c0374b9c877 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "b8eee4631a2599941fc2db8b4cc17c3f383722749838b9bc7e0267e77537cf6e", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "6f549d93958ab1affbd2c77d8a8ce98e02e4150e008e9989bbcc31323e709a76", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 1e-07, + "start_epoch": 60, + "annealing_epochs": 40 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "25", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "1e-07", + "--vtjepa_kl_y_annealing_epochs", + "40", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "60", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..91ccf5dc22535844799ffb33b65b93716594e303 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp8one67iz", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp8one67iz/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.613537073135376, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7527527809143066, + "covertype_val_precision": 0.7490294575691223, + "covertype_val_recall": 0.7527527809143066, + "covertype_val_f1-score": 0.7499064803123474, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7527527809143066 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5900191068649292, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7574999928474426, + "covertype_test_precision": 0.7572698593139648, + "covertype_test_recall": 0.7574999928474426, + "covertype_test_f1-score": 0.7560364603996277, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7574999928474426 + }, + "5": { + "covertype_test_loss": 0.5738629698753357, + "covertype_test_accuracy": 0.7631579041481018, + "covertype_test_precision": 0.7616651058197021, + "covertype_test_recall": 0.7631579041481018, + "covertype_test_f1-score": 0.7619078159332275, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7631579041481018 + }, + "10": { + "covertype_test_loss": 0.5590932369232178, + "covertype_test_accuracy": 0.7666666507720947, + "covertype_test_precision": 0.7650253176689148, + "covertype_test_recall": 0.7666666507720947, + "covertype_test_f1-score": 0.7652723789215088, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7666666507720947 + }, + "20": { + "covertype_test_loss": 0.5357111096382141, + "covertype_test_accuracy": 0.7768750190734863, + "covertype_test_precision": 0.7754510641098022, + "covertype_test_recall": 0.7768750190734863, + "covertype_test_f1-score": 0.7756849527359009, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7768750190734863 + }, + "50": { + "covertype_test_loss": 0.5224785804748535, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.7826062440872192, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7828654050827026, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7839999794960022 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6267668604850769, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.7564117908477783, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.7564372420310974, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.622303307056427, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7505000233650208, + "covertype_test_precision": 0.7509711384773254, + "covertype_test_recall": 0.7505000233650208, + "covertype_test_f1-score": 0.7491222620010376, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7505000233650208 + }, + "5": { + "covertype_test_loss": 0.6006073951721191, + "covertype_test_accuracy": 0.7568420767784119, + "covertype_test_precision": 0.7575404047966003, + "covertype_test_recall": 0.7568420767784119, + "covertype_test_f1-score": 0.7554233074188232, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7568420767784119 + }, + "10": { + "covertype_test_loss": 0.5901476144790649, + "covertype_test_accuracy": 0.7611111402511597, + "covertype_test_precision": 0.7603150606155396, + "covertype_test_recall": 0.7611111402511597, + "covertype_test_f1-score": 0.7590734958648682, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7611111402511597 + }, + "20": { + "covertype_test_loss": 0.5629924535751343, + "covertype_test_accuracy": 0.7637500166893005, + "covertype_test_precision": 0.7631758451461792, + "covertype_test_recall": 0.7637500166893005, + "covertype_test_f1-score": 0.76168292760849, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7637500166893005 + }, + "50": { + "covertype_test_loss": 0.53739333152771, + "covertype_test_accuracy": 0.7739999890327454, + "covertype_test_precision": 0.77248215675354, + "covertype_test_recall": 0.7739999890327454, + "covertype_test_f1-score": 0.7729159593582153, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7739999890327454 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6335337162017822, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.7465426921844482, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7468005418777466, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5901482701301575, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7670000195503235, + "covertype_test_precision": 0.7682400941848755, + "covertype_test_recall": 0.7670000195503235, + "covertype_test_f1-score": 0.7659381628036499, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7670000195503235 + }, + "5": { + "covertype_test_loss": 0.5654827952384949, + "covertype_test_accuracy": 0.7715789675712585, + "covertype_test_precision": 0.7732380032539368, + "covertype_test_recall": 0.7715789675712585, + "covertype_test_f1-score": 0.7706854939460754, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7715789675712585 + }, + "10": { + "covertype_test_loss": 0.5432875156402588, + "covertype_test_accuracy": 0.7766666412353516, + "covertype_test_precision": 0.7767086029052734, + "covertype_test_recall": 0.7766666412353516, + "covertype_test_f1-score": 0.7751589417457581, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7766666412353516 + }, + "20": { + "covertype_test_loss": 0.5141422748565674, + "covertype_test_accuracy": 0.7837499976158142, + "covertype_test_precision": 0.7833857536315918, + "covertype_test_recall": 0.7837499976158142, + "covertype_test_f1-score": 0.7824644446372986, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7837499976158142 + }, + "50": { + "covertype_test_loss": 0.48698532581329346, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7855597138404846, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.784672200679779, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7860000133514404 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.63693767786026, + "lr": 0.0, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7490258812904358, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7468904852867126, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.58439701795578, + "lr": 0.0, + "covertype_test_accuracy": 0.7595000267028809, + "covertype_test_precision": 0.7599571347236633, + "covertype_test_recall": 0.7595000267028809, + "covertype_test_f1-score": 0.7585645318031311, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7595000267028809 + }, + "5": { + "covertype_test_loss": 0.5617661476135254, + "covertype_test_accuracy": 0.7642105221748352, + "covertype_test_precision": 0.7636606097221375, + "covertype_test_recall": 0.7642105221748352, + "covertype_test_f1-score": 0.7632104754447937, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7642105221748352 + }, + "10": { + "covertype_test_loss": 0.5494179129600525, + "covertype_test_accuracy": 0.7705555558204651, + "covertype_test_precision": 0.7696132063865662, + "covertype_test_recall": 0.7705555558204651, + "covertype_test_f1-score": 0.7691906094551086, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7705555558204651 + }, + "20": { + "covertype_test_loss": 0.5136660933494568, + "covertype_test_accuracy": 0.7787500023841858, + "covertype_test_precision": 0.7773383855819702, + "covertype_test_recall": 0.7787500023841858, + "covertype_test_f1-score": 0.7774864435195923, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7787500023841858 + }, + "50": { + "covertype_test_loss": 0.5036948919296265, + "covertype_test_accuracy": 0.7720000147819519, + "covertype_test_precision": 0.7725625038146973, + "covertype_test_recall": 0.7720000147819519, + "covertype_test_f1-score": 0.7719647288322449, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7720000147819519 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.61005038022995, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.7465233206748962, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7436390519142151, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5994978547096252, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7554866671562195, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7535173892974854, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7549999952316284 + }, + "5": { + "covertype_test_loss": 0.5776413679122925, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7604785561561584, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7588499188423157, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7599999904632568 + }, + "10": { + "covertype_test_loss": 0.5575217604637146, + "covertype_test_accuracy": 0.7661111354827881, + "covertype_test_precision": 0.7657681703567505, + "covertype_test_recall": 0.7661111354827881, + "covertype_test_f1-score": 0.7642119526863098, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7661111354827881 + }, + "20": { + "covertype_test_loss": 0.5294821262359619, + "covertype_test_accuracy": 0.7731249928474426, + "covertype_test_precision": 0.7718627452850342, + "covertype_test_recall": 0.7731249928474426, + "covertype_test_f1-score": 0.7713013887405396, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7731249928474426 + }, + "50": { + "covertype_test_loss": 0.5100945830345154, + "covertype_test_accuracy": 0.7770000100135803, + "covertype_test_precision": 0.7777491211891174, + "covertype_test_recall": 0.7770000100135803, + "covertype_test_f1-score": 0.7762176990509033, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7770000100135803 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5972731113433838, + "std": 0.015005314930819538, + "n": 5, + "ci95": 0.018628572416895115 + }, + "lr": { + "mean": 3.937203882742324e-06, + "std": 4.508595770768599e-06, + "n": 5, + "ci95": 5.59726358303649e-06 + }, + "covertype_test_accuracy": { + "mean": 0.7579000115394592, + "std": 0.0060971331140637205, + "n": 5, + "ci95": 0.007569377002378041 + }, + "covertype_test_precision": { + "mean": 0.7583849787712097, + "std": 0.006407099649612208, + "n": 5, + "ci95": 0.007954189589178158 + }, + "covertype_test_recall": { + "mean": 0.7579000115394592, + "std": 0.0060971331140637205, + "n": 5, + "ci95": 0.007569377002378041 + }, + "covertype_test_f1-score": { + "mean": 0.7566357612609863, + "std": 0.006260808786003997, + "n": 5, + "ci95": 0.0077725746108041685 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7579000115394592, + "std": 0.0060971331140637205, + "n": 5, + "ci95": 0.007569377002378041 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5758721351623535, + "std": 0.015214444503545815, + "n": 5, + "ci95": 0.01888819944958366 + }, + "covertype_test_accuracy": { + "mean": 0.7631578922271729, + "std": 0.005520063588650441, + "n": 5, + "ci95": 0.00685296541799569 + }, + "covertype_test_precision": { + "mean": 0.763316535949707, + "std": 0.005972833124040505, + "n": 5, + "ci95": 0.007415062922584158 + }, + "covertype_test_recall": { + "mean": 0.7631578922271729, + "std": 0.005520063588650441, + "n": 5, + "ci95": 0.00685296541799569 + }, + "covertype_test_f1-score": { + "mean": 0.7620154023170471, + "std": 0.005702768280457735, + "n": 5, + "ci95": 0.007079786887450365 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7631578922271729, + "std": 0.005520063588650441, + "n": 5, + "ci95": 0.00685296541799569 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5598936080932617, + "std": 0.018076736795267227, + "n": 5, + "ci95": 0.02244163498095913 + }, + "covertype_test_accuracy": { + "mean": 0.7682222247123718, + "std": 0.005792163557492908, + "n": 5, + "ci95": 0.00719076798979016 + }, + "covertype_test_precision": { + "mean": 0.7674860715866089, + "std": 0.0061239219297589504, + "n": 5, + "ci95": 0.007602634377877469 + }, + "covertype_test_recall": { + "mean": 0.7682222247123718, + "std": 0.005792163557492908, + "n": 5, + "ci95": 0.00719076798979016 + }, + "covertype_test_f1-score": { + "mean": 0.7665814757347107, + "std": 0.006001638059954745, + "n": 5, + "ci95": 0.007450823240652548 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7682222247123718, + "std": 0.005792163557492908, + "n": 5, + "ci95": 0.00719076798979016 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5311988115310669, + "std": 0.020201888322634542, + "n": 5, + "ci95": 0.025079936096727522 + }, + "covertype_test_accuracy": { + "mean": 0.7752500057220459, + "std": 0.007481743357867374, + "n": 5, + "ci95": 0.009288322077159114 + }, + "covertype_test_precision": { + "mean": 0.7742427587509155, + "std": 0.007462879865340308, + "n": 5, + "ci95": 0.00926490371251991 + }, + "covertype_test_recall": { + "mean": 0.7752500057220459, + "std": 0.007481743357867374, + "n": 5, + "ci95": 0.009288322077159114 + }, + "covertype_test_f1-score": { + "mean": 0.7737240314483642, + "std": 0.007830280310680851, + "n": 5, + "ci95": 0.00972101848475762 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7752500057220459, + "std": 0.007481743357867374, + "n": 5, + "ci95": 0.009288322077159114 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5121293425559997, + "std": 0.019058316071338975, + "n": 5, + "ci95": 0.023660231239120262 + }, + "covertype_test_accuracy": { + "mean": 0.7786000013351441, + "std": 0.006148167407705556, + "n": 5, + "ci95": 0.007632734288728584 + }, + "covertype_test_precision": { + "mean": 0.7781919479370117, + "std": 0.00587916739266448, + "n": 5, + "ci95": 0.007298780200897596 + }, + "covertype_test_recall": { + "mean": 0.7786000013351441, + "std": 0.006148167407705556, + "n": 5, + "ci95": 0.007632734288728584 + }, + "covertype_test_f1-score": { + "mean": 0.777727198600769, + "std": 0.005772063961481335, + "n": 5, + "ci95": 0.0071658150460113595 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7786000013351441, + "std": 0.006148167407705556, + "n": 5, + "ci95": 0.007632734288728584 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..e931c32b4d346b0917a4aa1cf3cd3298cddde073 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp2u1bvvxz", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp2u1bvvxz/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5487809777259827, + "lr": 0.0, + "covertype_val_accuracy": 0.7847847938537598, + "covertype_val_precision": 0.777529239654541, + "covertype_val_recall": 0.7847847938537598, + "covertype_val_f1-score": 0.7794890403747559, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7847847938537598 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5594765543937683, + "lr": 0.0, + "covertype_test_accuracy": 0.7940000295639038, + "covertype_test_precision": 0.7933734059333801, + "covertype_test_recall": 0.7940000295639038, + "covertype_test_f1-score": 0.7920457720756531, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7940000295639038 + }, + "5": { + "covertype_test_loss": 0.5443016886711121, + "covertype_test_accuracy": 0.8010526299476624, + "covertype_test_precision": 0.8003690838813782, + "covertype_test_recall": 0.8010526299476624, + "covertype_test_f1-score": 0.7994667887687683, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.8010526299476624 + }, + "10": { + "covertype_test_loss": 0.5302151441574097, + "covertype_test_accuracy": 0.8066666722297668, + "covertype_test_precision": 0.8044717311859131, + "covertype_test_recall": 0.8066666722297668, + "covertype_test_f1-score": 0.8044405579566956, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8066666722297668 + }, + "20": { + "covertype_test_loss": 0.49675148725509644, + "covertype_test_accuracy": 0.8106250166893005, + "covertype_test_precision": 0.808280348777771, + "covertype_test_recall": 0.8106250166893005, + "covertype_test_f1-score": 0.8085517287254333, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8106250166893005 + }, + "50": { + "covertype_test_loss": 0.49094298481941223, + "covertype_test_accuracy": 0.8209999799728394, + "covertype_test_precision": 0.8198603391647339, + "covertype_test_recall": 0.8209999799728394, + "covertype_test_f1-score": 0.8198307156562805, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8209999799728394 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5606786608695984, + "lr": 0.0, + "covertype_val_accuracy": 0.7857857942581177, + "covertype_val_precision": 0.7806345820426941, + "covertype_val_recall": 0.7857857942581177, + "covertype_val_f1-score": 0.7821796536445618, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7857857942581177 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5851204991340637, + "lr": 0.0, + "covertype_test_accuracy": 0.7935000061988831, + "covertype_test_precision": 0.7927172780036926, + "covertype_test_recall": 0.7935000061988831, + "covertype_test_f1-score": 0.7918710112571716, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7935000061988831 + }, + "5": { + "covertype_test_loss": 0.5652278661727905, + "covertype_test_accuracy": 0.8005263209342957, + "covertype_test_precision": 0.8003749847412109, + "covertype_test_recall": 0.8005263209342957, + "covertype_test_f1-score": 0.7990103363990784, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.8005263209342957 + }, + "10": { + "covertype_test_loss": 0.5509647130966187, + "covertype_test_accuracy": 0.8077777624130249, + "covertype_test_precision": 0.8064573407173157, + "covertype_test_recall": 0.8077777624130249, + "covertype_test_f1-score": 0.8055521845817566, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8077777624130249 + }, + "20": { + "covertype_test_loss": 0.49747413396835327, + "covertype_test_accuracy": 0.8106250166893005, + "covertype_test_precision": 0.8106260895729065, + "covertype_test_recall": 0.8106250166893005, + "covertype_test_f1-score": 0.808057963848114, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8106250166893005 + }, + "50": { + "covertype_test_loss": 0.4906919598579407, + "covertype_test_accuracy": 0.8159999847412109, + "covertype_test_precision": 0.8141706585884094, + "covertype_test_recall": 0.8159999847412109, + "covertype_test_f1-score": 0.8140098452568054, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8159999847412109 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5588559508323669, + "lr": 0.0, + "covertype_val_accuracy": 0.7767767906188965, + "covertype_val_precision": 0.7679666876792908, + "covertype_val_recall": 0.7767767906188965, + "covertype_val_f1-score": 0.7711300253868103, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7767767906188965 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5717126727104187, + "lr": 0.0, + "covertype_test_accuracy": 0.7774999737739563, + "covertype_test_precision": 0.7764326930046082, + "covertype_test_recall": 0.7774999737739563, + "covertype_test_f1-score": 0.7755425572395325, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7774999737739563 + }, + "5": { + "covertype_test_loss": 0.5510255098342896, + "covertype_test_accuracy": 0.7836841940879822, + "covertype_test_precision": 0.7809743285179138, + "covertype_test_recall": 0.7836841940879822, + "covertype_test_f1-score": 0.7817050218582153, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7836841940879822 + }, + "10": { + "covertype_test_loss": 0.5303008556365967, + "covertype_test_accuracy": 0.7894444465637207, + "covertype_test_precision": 0.7862316370010376, + "covertype_test_recall": 0.7894444465637207, + "covertype_test_f1-score": 0.7872390151023865, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7894444465637207 + }, + "20": { + "covertype_test_loss": 0.503725528717041, + "covertype_test_accuracy": 0.7943750023841858, + "covertype_test_precision": 0.7923004031181335, + "covertype_test_recall": 0.7943750023841858, + "covertype_test_f1-score": 0.7926244139671326, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7943750023841858 + }, + "50": { + "covertype_test_loss": 0.4921891987323761, + "covertype_test_accuracy": 0.8009999990463257, + "covertype_test_precision": 0.8001149296760559, + "covertype_test_recall": 0.8009999990463257, + "covertype_test_f1-score": 0.800093412399292, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8009999990463257 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5673476457595825, + "lr": 0.0, + "covertype_val_accuracy": 0.7747747898101807, + "covertype_val_precision": 0.7686360478401184, + "covertype_val_recall": 0.7747747898101807, + "covertype_val_f1-score": 0.7709988951683044, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7747747898101807 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5757465362548828, + "lr": 0.0, + "covertype_test_accuracy": 0.7885000109672546, + "covertype_test_precision": 0.7879011631011963, + "covertype_test_recall": 0.7885000109672546, + "covertype_test_f1-score": 0.7866873145103455, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7885000109672546 + }, + "5": { + "covertype_test_loss": 0.5561572313308716, + "covertype_test_accuracy": 0.7947368621826172, + "covertype_test_precision": 0.7926035523414612, + "covertype_test_recall": 0.7947368621826172, + "covertype_test_f1-score": 0.7928897142410278, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7947368621826172 + }, + "10": { + "covertype_test_loss": 0.5443870425224304, + "covertype_test_accuracy": 0.7988888621330261, + "covertype_test_precision": 0.7965407371520996, + "covertype_test_recall": 0.7988888621330261, + "covertype_test_f1-score": 0.7969915270805359, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7988888621330261 + }, + "20": { + "covertype_test_loss": 0.5170522928237915, + "covertype_test_accuracy": 0.8031250238418579, + "covertype_test_precision": 0.8019263744354248, + "covertype_test_recall": 0.8031250238418579, + "covertype_test_f1-score": 0.8017798662185669, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8031250238418579 + }, + "50": { + "covertype_test_loss": 0.5066596269607544, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.8033860921859741, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.8026037216186523, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5847501158714294, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7610617876052856, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7636842727661133, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.566081702709198, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7795000076293945, + "covertype_test_precision": 0.7790786027908325, + "covertype_test_recall": 0.7795000076293945, + "covertype_test_f1-score": 0.7779466509819031, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7795000076293945 + }, + "5": { + "covertype_test_loss": 0.549830973148346, + "covertype_test_accuracy": 0.7868421077728271, + "covertype_test_precision": 0.7863543629646301, + "covertype_test_recall": 0.7868421077728271, + "covertype_test_f1-score": 0.7855959534645081, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7868421077728271 + }, + "10": { + "covertype_test_loss": 0.5394037961959839, + "covertype_test_accuracy": 0.7911111116409302, + "covertype_test_precision": 0.7883026003837585, + "covertype_test_recall": 0.7911111116409302, + "covertype_test_f1-score": 0.7891770005226135, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7911111116409302 + }, + "20": { + "covertype_test_loss": 0.5059970617294312, + "covertype_test_accuracy": 0.7987499833106995, + "covertype_test_precision": 0.7970458269119263, + "covertype_test_recall": 0.7987499833106995, + "covertype_test_f1-score": 0.7973142862319946, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7987499833106995 + }, + "50": { + "covertype_test_loss": 0.4997273087501526, + "covertype_test_accuracy": 0.8119999766349792, + "covertype_test_precision": 0.8122115731239319, + "covertype_test_recall": 0.8119999766349792, + "covertype_test_f1-score": 0.8114299178123474, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8119999766349792 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5716275930404663, + "std": 0.009713857194292965, + "n": 5, + "ci95": 0.012059413149643301 + }, + "lr": { + "mean": 1.9732717646547825e-07, + "std": 4.4123698038490607e-07, + "n": 5, + "ci95": 5.477802418681676e-07 + }, + "covertype_test_accuracy": { + "mean": 0.7866000056266784, + "std": 0.007733061065065755, + "n": 5, + "ci95": 0.009600324199725521 + }, + "covertype_test_precision": { + "mean": 0.7859006285667419, + "std": 0.00778609480158466, + "n": 5, + "ci95": 0.009666163724309696 + }, + "covertype_test_recall": { + "mean": 0.7866000056266784, + "std": 0.007733061065065755, + "n": 5, + "ci95": 0.009600324199725521 + }, + "covertype_test_f1-score": { + "mean": 0.7848186612129211, + "std": 0.007725433114964601, + "n": 5, + "ci95": 0.009590854367102417 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7866000056266784, + "std": 0.007733061065065755, + "n": 5, + "ci95": 0.009600324199725521 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.553308653831482, + "std": 0.00788375620267905, + "n": 5, + "ci95": 0.009787406929867855 + }, + "covertype_test_accuracy": { + "mean": 0.7933684229850769, + "std": 0.007882452745078915, + "n": 5, + "ci95": 0.009785788732955067 + }, + "covertype_test_precision": { + "mean": 0.7921352624893189, + "std": 0.008571659397673358, + "n": 5, + "ci95": 0.010641414629329389 + }, + "covertype_test_recall": { + "mean": 0.7933684229850769, + "std": 0.007882452745078915, + "n": 5, + "ci95": 0.009785788732955067 + }, + "covertype_test_f1-score": { + "mean": 0.7917335629463196, + "std": 0.00794249308824119, + "n": 5, + "ci95": 0.009860326714043119 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7933684229850769, + "std": 0.007882452745078915, + "n": 5, + "ci95": 0.009785788732955067 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5390543103218078, + "std": 0.009016258852288921, + "n": 5, + "ci95": 0.011193369265070295 + }, + "covertype_test_accuracy": { + "mean": 0.7987777709960937, + "std": 0.008501993296401689, + "n": 5, + "ci95": 0.01055492660701694 + }, + "covertype_test_precision": { + "mean": 0.7964008092880249, + "std": 0.009155411472687044, + "n": 5, + "ci95": 0.011366122364757859 + }, + "covertype_test_recall": { + "mean": 0.7987777709960937, + "std": 0.008501993296401689, + "n": 5, + "ci95": 0.01055492660701694 + }, + "covertype_test_f1-score": { + "mean": 0.7966800570487976, + "std": 0.008433062390855603, + "n": 5, + "ci95": 0.010469351304422655 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7987777709960937, + "std": 0.008501993296401689, + "n": 5, + "ci95": 0.01055492660701694 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5042001008987427, + "std": 0.008205997815957069, + "n": 5, + "ci95": 0.01018745859531856 + }, + "covertype_test_accuracy": { + "mean": 0.8035000085830688, + "std": 0.007202440086555348, + "n": 5, + "ci95": 0.00894157685788849 + }, + "covertype_test_precision": { + "mean": 0.8020358085632324, + "std": 0.007623601875185351, + "n": 5, + "ci95": 0.009464434453006928 + }, + "covertype_test_recall": { + "mean": 0.8035000085830688, + "std": 0.007202440086555348, + "n": 5, + "ci95": 0.00894157685788849 + }, + "covertype_test_f1-score": { + "mean": 0.8016656517982483, + "std": 0.006873338299795701, + "n": 5, + "ci95": 0.008533008527570428 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8035000085830688, + "std": 0.007202440086555348, + "n": 5, + "ci95": 0.00894157685788849 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4960422158241272, + "std": 0.006996114378176371, + "n": 5, + "ci95": 0.008685430724486742 + }, + "covertype_test_accuracy": { + "mean": 0.8105999827384949, + "std": 0.00850293739558305, + "n": 5, + "ci95": 0.010556098673051528 + }, + "covertype_test_precision": { + "mean": 0.809948718547821, + "std": 0.008077081467526202, + "n": 5, + "ci95": 0.01002741346840599 + }, + "covertype_test_recall": { + "mean": 0.8105999827384949, + "std": 0.00850293739558305, + "n": 5, + "ci95": 0.010556098673051528 + }, + "covertype_test_f1-score": { + "mean": 0.8095935225486756, + "std": 0.008166789247325848, + "n": 5, + "ci95": 0.010138782531971877 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8105999827384949, + "std": 0.00850293739558305, + "n": 5, + "ci95": 0.010556098673051528 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..1366eb8f567eb3c67ffda336291c172812ad19f9 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpjvqrxn8v", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpjvqrxn8v/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5852915644645691, + "lr": 0.0, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7439197301864624, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7440484166145325, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5681428909301758, + "lr": 0.0, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7564892768859863, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7538892030715942, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7549999952316284 + }, + "5": { + "covertype_test_loss": 0.550243616104126, + "covertype_test_accuracy": 0.7647368311882019, + "covertype_test_precision": 0.7664245367050171, + "covertype_test_recall": 0.7647368311882019, + "covertype_test_f1-score": 0.7643643617630005, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7647368311882019 + }, + "10": { + "covertype_test_loss": 0.537605345249176, + "covertype_test_accuracy": 0.7716666460037231, + "covertype_test_precision": 0.7716434001922607, + "covertype_test_recall": 0.7716666460037231, + "covertype_test_f1-score": 0.7701208591461182, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7716666460037231 + }, + "20": { + "covertype_test_loss": 0.5176247358322144, + "covertype_test_accuracy": 0.7774999737739563, + "covertype_test_precision": 0.7747778296470642, + "covertype_test_recall": 0.7774999737739563, + "covertype_test_f1-score": 0.7753493189811707, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7774999737739563 + }, + "50": { + "covertype_test_loss": 0.5040071606636047, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7797185182571411, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7796003818511963, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6148133277893066, + "lr": 0.0, + "covertype_val_accuracy": 0.7507507801055908, + "covertype_val_precision": 0.7442579865455627, + "covertype_val_recall": 0.7507507801055908, + "covertype_val_f1-score": 0.744968593120575, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7507507801055908 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5771003365516663, + "lr": 0.0, + "covertype_test_accuracy": 0.7505000233650208, + "covertype_test_precision": 0.7500633597373962, + "covertype_test_recall": 0.7505000233650208, + "covertype_test_f1-score": 0.7481589913368225, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7505000233650208 + }, + "5": { + "covertype_test_loss": 0.5600083470344543, + "covertype_test_accuracy": 0.7605262994766235, + "covertype_test_precision": 0.760986864566803, + "covertype_test_recall": 0.7605262994766235, + "covertype_test_f1-score": 0.7591494917869568, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7605262994766235 + }, + "10": { + "covertype_test_loss": 0.5455078482627869, + "covertype_test_accuracy": 0.7655555605888367, + "covertype_test_precision": 0.7635447382926941, + "covertype_test_recall": 0.7655555605888367, + "covertype_test_f1-score": 0.7634362578392029, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7655555605888367 + }, + "20": { + "covertype_test_loss": 0.5245953798294067, + "covertype_test_accuracy": 0.7731249928474426, + "covertype_test_precision": 0.7709161639213562, + "covertype_test_recall": 0.7731249928474426, + "covertype_test_f1-score": 0.7705084681510925, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7731249928474426 + }, + "50": { + "covertype_test_loss": 0.5084128975868225, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7781869769096375, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7783585786819458, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5749738216400146, + "lr": 0.0, + "covertype_val_accuracy": 0.7617617845535278, + "covertype_val_precision": 0.7573144435882568, + "covertype_val_recall": 0.7617617845535278, + "covertype_val_f1-score": 0.7567638158798218, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7617617845535278 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5834004282951355, + "lr": 0.0, + "covertype_test_accuracy": 0.7475000023841858, + "covertype_test_precision": 0.7480465173721313, + "covertype_test_recall": 0.7475000023841858, + "covertype_test_f1-score": 0.745112419128418, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7475000023841858 + }, + "5": { + "covertype_test_loss": 0.5613856315612793, + "covertype_test_accuracy": 0.7563157677650452, + "covertype_test_precision": 0.755429744720459, + "covertype_test_recall": 0.7563157677650452, + "covertype_test_f1-score": 0.7541859745979309, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7563157677650452 + }, + "10": { + "covertype_test_loss": 0.5429713129997253, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7585106492042542, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7573955655097961, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7599999904632568 + }, + "20": { + "covertype_test_loss": 0.5218821167945862, + "covertype_test_accuracy": 0.7662500143051147, + "covertype_test_precision": 0.7674687504768372, + "covertype_test_recall": 0.7662500143051147, + "covertype_test_f1-score": 0.7648144960403442, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7662500143051147 + }, + "50": { + "covertype_test_loss": 0.5010183453559875, + "covertype_test_accuracy": 0.7739999890327454, + "covertype_test_precision": 0.7756423354148865, + "covertype_test_recall": 0.7739999890327454, + "covertype_test_f1-score": 0.7743945717811584, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7739999890327454 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6011888384819031, + "lr": 0.0, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7453294992446899, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7432680130004883, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5878143310546875, + "lr": 0.0, + "covertype_test_accuracy": 0.753000020980835, + "covertype_test_precision": 0.7524032592773438, + "covertype_test_recall": 0.753000020980835, + "covertype_test_f1-score": 0.7496647834777832, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.753000020980835 + }, + "5": { + "covertype_test_loss": 0.5722814798355103, + "covertype_test_accuracy": 0.7621052861213684, + "covertype_test_precision": 0.7621114253997803, + "covertype_test_recall": 0.7621052861213684, + "covertype_test_f1-score": 0.7593666315078735, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7621052861213684 + }, + "10": { + "covertype_test_loss": 0.5574171543121338, + "covertype_test_accuracy": 0.7683333158493042, + "covertype_test_precision": 0.7662745118141174, + "covertype_test_recall": 0.7683333158493042, + "covertype_test_f1-score": 0.7648939490318298, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7683333158493042 + }, + "20": { + "covertype_test_loss": 0.5398103594779968, + "covertype_test_accuracy": 0.7731249928474426, + "covertype_test_precision": 0.7721951603889465, + "covertype_test_recall": 0.7731249928474426, + "covertype_test_f1-score": 0.7701357007026672, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7731249928474426 + }, + "50": { + "covertype_test_loss": 0.5143091082572937, + "covertype_test_accuracy": 0.7770000100135803, + "covertype_test_precision": 0.7801782488822937, + "covertype_test_recall": 0.7770000100135803, + "covertype_test_f1-score": 0.775760293006897, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7770000100135803 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5897629261016846, + "lr": 0.0, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7572758793830872, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7517179250717163, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5543263554573059, + "lr": 0.0, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7644678950309753, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7582384943962097, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7599999904632568 + }, + "5": { + "covertype_test_loss": 0.5364316701889038, + "covertype_test_accuracy": 0.7684210538864136, + "covertype_test_precision": 0.773504912853241, + "covertype_test_recall": 0.7684210538864136, + "covertype_test_f1-score": 0.7668183445930481, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7684210538864136 + }, + "10": { + "covertype_test_loss": 0.5192087292671204, + "covertype_test_accuracy": 0.7755555510520935, + "covertype_test_precision": 0.7788663506507874, + "covertype_test_recall": 0.7755555510520935, + "covertype_test_f1-score": 0.7731987237930298, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7755555510520935 + }, + "20": { + "covertype_test_loss": 0.50100177526474, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.78331059217453, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7782999873161316, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7799999713897705 + }, + "50": { + "covertype_test_loss": 0.4848540723323822, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7828277945518494, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7791355848312378, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5741568684577942, + "std": 0.013323389762340194, + "n": 5, + "ci95": 0.01654052128666104 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7532000064849853, + "std": 0.004724925697613838, + "n": 5, + "ci95": 0.005865829602927287 + }, + "covertype_test_precision": { + "mean": 0.7542940616607666, + "std": 0.0064967614506351475, + "n": 5, + "ci95": 0.008065501571704728 + }, + "covertype_test_recall": { + "mean": 0.7532000064849853, + "std": 0.004724925697613838, + "n": 5, + "ci95": 0.005865829602927287 + }, + "covertype_test_f1-score": { + "mean": 0.7510127782821655, + "std": 0.0051298201965386285, + "n": 5, + "ci95": 0.006368491928189858 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7532000064849853, + "std": 0.004724925697613838, + "n": 5, + "ci95": 0.005865829602927287 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5560701489448547, + "std": 0.013473950252958356, + "n": 5, + "ci95": 0.016727436857279492 + }, + "covertype_test_accuracy": { + "mean": 0.7624210476875305, + "std": 0.004536715405718107, + "n": 5, + "ci95": 0.005632173123983055 + }, + "covertype_test_precision": { + "mean": 0.76369149684906, + "std": 0.006742418896932767, + "n": 5, + "ci95": 0.008370476678805316 + }, + "covertype_test_recall": { + "mean": 0.7624210476875305, + "std": 0.004536715405718107, + "n": 5, + "ci95": 0.005632173123983055 + }, + "covertype_test_f1-score": { + "mean": 0.760776960849762, + "std": 0.004935750880584228, + "n": 5, + "ci95": 0.006127561676287681 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7624210476875305, + "std": 0.004536715405718107, + "n": 5, + "ci95": 0.005632173123983055 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5405420780181884, + "std": 0.013955862790736257, + "n": 5, + "ci95": 0.017325714377611084 + }, + "covertype_test_accuracy": { + "mean": 0.7682222127914429, + "std": 0.005923898380125909, + "n": 5, + "ci95": 0.007354312153612096 + }, + "covertype_test_precision": { + "mean": 0.7677679300308228, + "std": 0.007809563111320502, + "n": 5, + "ci95": 0.009695298808073804 + }, + "covertype_test_recall": { + "mean": 0.7682222127914429, + "std": 0.005923898380125909, + "n": 5, + "ci95": 0.007354312153612096 + }, + "covertype_test_f1-score": { + "mean": 0.7658090710639953, + "std": 0.006132969316833978, + "n": 5, + "ci95": 0.007613866391739748 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7682222127914429, + "std": 0.005923898380125909, + "n": 5, + "ci95": 0.007354312153612096 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5209828734397888, + "std": 0.013953981904974655, + "n": 5, + "ci95": 0.017323379323879826 + }, + "covertype_test_accuracy": { + "mean": 0.7739999890327454, + "std": 0.00524030119365348, + "n": 5, + "ci95": 0.006505650212766587 + }, + "covertype_test_precision": { + "mean": 0.7737336993217468, + "std": 0.005965783197943691, + "n": 5, + "ci95": 0.007406310686497562 + }, + "covertype_test_recall": { + "mean": 0.7739999890327454, + "std": 0.00524030119365348, + "n": 5, + "ci95": 0.006505650212766587 + }, + "covertype_test_f1-score": { + "mean": 0.7718215942382812, + "std": 0.0051980857299237125, + "n": 5, + "ci95": 0.006453241194573469 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7739999890327454, + "std": 0.00524030119365348, + "n": 5, + "ci95": 0.006505650212766587 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5025203168392182, + "std": 0.0110709183091986, + "n": 5, + "ci95": 0.013744156946739425 + }, + "covertype_test_accuracy": { + "mean": 0.7781999826431274, + "std": 0.0026832703508516227, + "n": 5, + "ci95": 0.0033311860680965387 + }, + "covertype_test_precision": { + "mean": 0.7793107748031616, + "std": 0.002646155851694429, + "n": 5, + "ci95": 0.0032851097185861043 + }, + "covertype_test_recall": { + "mean": 0.7781999826431274, + "std": 0.0026832703508516227, + "n": 5, + "ci95": 0.0033311860680965387 + }, + "covertype_test_f1-score": { + "mean": 0.777449882030487, + "std": 0.0022628303517934233, + "n": 5, + "ci95": 0.0028092245494263524 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7781999826431274, + "std": 0.0026832703508516227, + "n": 5, + "ci95": 0.0033311860680965387 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..acdc8fecf69da2cb9d2c2167660910c3e64d915d --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpxp_6tcfj", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpxp_6tcfj/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6860320568084717, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7127127051353455, + "covertype_val_precision": 0.7119272351264954, + "covertype_val_recall": 0.7127127051353455, + "covertype_val_f1-score": 0.6970093846321106, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7127127051353455 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6952381730079651, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6984999775886536, + "covertype_test_precision": 0.7013537287712097, + "covertype_test_recall": 0.6984999775886536, + "covertype_test_f1-score": 0.6833729147911072, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6984999775886536 + }, + "5": { + "covertype_test_loss": 0.6805365085601807, + "covertype_test_accuracy": 0.7052631378173828, + "covertype_test_precision": 0.7136525511741638, + "covertype_test_recall": 0.7052631378173828, + "covertype_test_f1-score": 0.694133996963501, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7052631378173828 + }, + "10": { + "covertype_test_loss": 0.6686718463897705, + "covertype_test_accuracy": 0.7061111330986023, + "covertype_test_precision": 0.716132402420044, + "covertype_test_recall": 0.7061111330986023, + "covertype_test_f1-score": 0.6954253911972046, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7061111330986023 + }, + "20": { + "covertype_test_loss": 0.6422584056854248, + "covertype_test_accuracy": 0.7124999761581421, + "covertype_test_precision": 0.7199926972389221, + "covertype_test_recall": 0.7124999761581421, + "covertype_test_f1-score": 0.7016305327415466, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7124999761581421 + }, + "50": { + "covertype_test_loss": 0.5690828561782837, + "covertype_test_accuracy": 0.7440000176429749, + "covertype_test_precision": 0.7432917356491089, + "covertype_test_recall": 0.7440000176429749, + "covertype_test_f1-score": 0.7357782125473022, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7440000176429749 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6428225040435791, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7317317128181458, + "covertype_val_precision": 0.7159141898155212, + "covertype_val_recall": 0.7317317128181458, + "covertype_val_f1-score": 0.7183646559715271, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7317317128181458 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6370790004730225, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7174999713897705, + "covertype_test_precision": 0.7069097757339478, + "covertype_test_recall": 0.7174999713897705, + "covertype_test_f1-score": 0.7058348059654236, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7174999713897705 + }, + "5": { + "covertype_test_loss": 0.6190305948257446, + "covertype_test_accuracy": 0.7273684144020081, + "covertype_test_precision": 0.7172916531562805, + "covertype_test_recall": 0.7273684144020081, + "covertype_test_f1-score": 0.7175671458244324, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7273684144020081 + }, + "10": { + "covertype_test_loss": 0.6027271151542664, + "covertype_test_accuracy": 0.7344444394111633, + "covertype_test_precision": 0.7214566469192505, + "covertype_test_recall": 0.7344444394111633, + "covertype_test_f1-score": 0.7244724631309509, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7344444394111633 + }, + "20": { + "covertype_test_loss": 0.5846044421195984, + "covertype_test_accuracy": 0.737500011920929, + "covertype_test_precision": 0.7250328063964844, + "covertype_test_recall": 0.737500011920929, + "covertype_test_f1-score": 0.7270249724388123, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.737500011920929 + }, + "50": { + "covertype_test_loss": 0.5557001829147339, + "covertype_test_accuracy": 0.753000020980835, + "covertype_test_precision": 0.7471809983253479, + "covertype_test_recall": 0.753000020980835, + "covertype_test_f1-score": 0.7420680522918701, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.753000020980835 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.647601842880249, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7357357144355774, + "covertype_val_precision": 0.7312560677528381, + "covertype_val_recall": 0.7357357144355774, + "covertype_val_f1-score": 0.7276341915130615, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7357357144355774 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6354341506958008, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.722000002861023, + "covertype_test_precision": 0.7155523300170898, + "covertype_test_recall": 0.722000002861023, + "covertype_test_f1-score": 0.7137495875358582, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.722000002861023 + }, + "5": { + "covertype_test_loss": 0.6170701384544373, + "covertype_test_accuracy": 0.7315789461135864, + "covertype_test_precision": 0.7275271415710449, + "covertype_test_recall": 0.7315789461135864, + "covertype_test_f1-score": 0.7260240912437439, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7315789461135864 + }, + "10": { + "covertype_test_loss": 0.5974771976470947, + "covertype_test_accuracy": 0.7372221946716309, + "covertype_test_precision": 0.7317032217979431, + "covertype_test_recall": 0.7372221946716309, + "covertype_test_f1-score": 0.7307112812995911, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7372221946716309 + }, + "20": { + "covertype_test_loss": 0.5792824625968933, + "covertype_test_accuracy": 0.7406250238418579, + "covertype_test_precision": 0.7317452430725098, + "covertype_test_recall": 0.7406250238418579, + "covertype_test_f1-score": 0.7334586381912231, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7406250238418579 + }, + "50": { + "covertype_test_loss": 0.5423731803894043, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7545785903930664, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.756004273891449, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7620000243186951 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6405425071716309, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7217217087745667, + "covertype_val_precision": 0.7123633623123169, + "covertype_val_recall": 0.7217217087745667, + "covertype_val_f1-score": 0.7008419632911682, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7217217087745667 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6434072852134705, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7170000076293945, + "covertype_test_precision": 0.7134692668914795, + "covertype_test_recall": 0.7170000076293945, + "covertype_test_f1-score": 0.698291003704071, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7170000076293945 + }, + "5": { + "covertype_test_loss": 0.6250025629997253, + "covertype_test_accuracy": 0.725789487361908, + "covertype_test_precision": 0.7220679521560669, + "covertype_test_recall": 0.725789487361908, + "covertype_test_f1-score": 0.7100567817687988, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.725789487361908 + }, + "10": { + "covertype_test_loss": 0.608453631401062, + "covertype_test_accuracy": 0.7327777743339539, + "covertype_test_precision": 0.7283892631530762, + "covertype_test_recall": 0.7327777743339539, + "covertype_test_f1-score": 0.7168736457824707, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7327777743339539 + }, + "20": { + "covertype_test_loss": 0.5853396058082581, + "covertype_test_accuracy": 0.7331249713897705, + "covertype_test_precision": 0.731700599193573, + "covertype_test_recall": 0.7331249713897705, + "covertype_test_f1-score": 0.7168054580688477, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7331249713897705 + }, + "50": { + "covertype_test_loss": 0.5491142868995667, + "covertype_test_accuracy": 0.7419999837875366, + "covertype_test_precision": 0.7475737929344177, + "covertype_test_recall": 0.7419999837875366, + "covertype_test_f1-score": 0.7252219915390015, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7419999837875366 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6509480476379395, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7267267107963562, + "covertype_val_precision": 0.7131695747375488, + "covertype_val_recall": 0.7267267107963562, + "covertype_val_f1-score": 0.7154574990272522, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7267267107963562 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6268290877342224, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7229999899864197, + "covertype_test_precision": 0.7138643860816956, + "covertype_test_recall": 0.7229999899864197, + "covertype_test_f1-score": 0.7127742171287537, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7229999899864197 + }, + "5": { + "covertype_test_loss": 0.6112725138664246, + "covertype_test_accuracy": 0.7310526371002197, + "covertype_test_precision": 0.7224063277244568, + "covertype_test_recall": 0.7310526371002197, + "covertype_test_f1-score": 0.7227952480316162, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7310526371002197 + }, + "10": { + "covertype_test_loss": 0.5994032025337219, + "covertype_test_accuracy": 0.7361111044883728, + "covertype_test_precision": 0.7264833450317383, + "covertype_test_recall": 0.7361111044883728, + "covertype_test_f1-score": 0.7278749942779541, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7361111044883728 + }, + "20": { + "covertype_test_loss": 0.5791588425636292, + "covertype_test_accuracy": 0.7425000071525574, + "covertype_test_precision": 0.7296955585479736, + "covertype_test_recall": 0.7425000071525574, + "covertype_test_f1-score": 0.7345910668373108, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7425000071525574 + }, + "50": { + "covertype_test_loss": 0.5445427894592285, + "covertype_test_accuracy": 0.7580000162124634, + "covertype_test_precision": 0.7463665008544922, + "covertype_test_recall": 0.7580000162124634, + "covertype_test_f1-score": 0.7511687278747559, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7580000162124634 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6475975394248963, + "std": 0.027281424409465977, + "n": 5, + "ci95": 0.03386893194783684 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7155999898910522, + "std": 0.009920944606394118, + "n": 5, + "ci95": 0.012316504911511643 + }, + "covertype_test_precision": { + "mean": 0.7102298974990845, + "std": 0.005954848634668922, + "n": 5, + "ci95": 0.007392735809545611 + }, + "covertype_test_recall": { + "mean": 0.7155999898910522, + "std": 0.009920944606394118, + "n": 5, + "ci95": 0.012316504911511643 + }, + "covertype_test_f1-score": { + "mean": 0.7028045058250427, + "std": 0.01251330399597465, + "n": 5, + "ci95": 0.015534828208427706 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7155999898910522, + "std": 0.009920944606394118, + "n": 5, + "ci95": 0.012316504911511643 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6305824637413024, + "std": 0.028352445486778254, + "n": 5, + "ci95": 0.035198567066507626 + }, + "covertype_test_accuracy": { + "mean": 0.724210524559021, + "std": 0.010869418065871342, + "n": 5, + "ci95": 0.013494001459023927 + }, + "covertype_test_precision": { + "mean": 0.7205891251564026, + "std": 0.005306001470994572, + "n": 5, + "ci95": 0.006587214803706617 + }, + "covertype_test_recall": { + "mean": 0.724210524559021, + "std": 0.010869418065871342, + "n": 5, + "ci95": 0.013494001459023927 + }, + "covertype_test_f1-score": { + "mean": 0.7141154527664184, + "std": 0.012696457059618936, + "n": 5, + "ci95": 0.01576220631579859 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.724210524559021, + "std": 0.010869418065871342, + "n": 5, + "ci95": 0.013494001459023927 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6153465986251831, + "std": 0.030099226649637975, + "n": 5, + "ci95": 0.03736713463998563 + }, + "covertype_test_accuracy": { + "mean": 0.7293333292007447, + "std": 0.013090363611569523, + "n": 5, + "ci95": 0.016251227490117936 + }, + "covertype_test_precision": { + "mean": 0.7248329758644104, + "std": 0.006116999923613586, + "n": 5, + "ci95": 0.007594040949925867 + }, + "covertype_test_recall": { + "mean": 0.7293333292007447, + "std": 0.013090363611569523, + "n": 5, + "ci95": 0.016251227490117936 + }, + "covertype_test_f1-score": { + "mean": 0.7190715551376343, + "std": 0.014196174199464102, + "n": 5, + "ci95": 0.01762405256649495 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7293333292007447, + "std": 0.013090363611569523, + "n": 5, + "ci95": 0.016251227490117936 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5941287517547608, + "std": 0.0270598209109493, + "n": 5, + "ci95": 0.03359381897360154 + }, + "covertype_test_accuracy": { + "mean": 0.7332499980926513, + "std": 0.012130491868731075, + "n": 5, + "ci95": 0.01505958037342388 + }, + "covertype_test_precision": { + "mean": 0.7276333808898926, + "std": 0.005070633253896688, + "n": 5, + "ci95": 0.0062950134139285255 + }, + "covertype_test_recall": { + "mean": 0.7332499980926513, + "std": 0.012130491868731075, + "n": 5, + "ci95": 0.01505958037342388 + }, + "covertype_test_f1-score": { + "mean": 0.7227021336555481, + "std": 0.01373425648903359, + "n": 5, + "ci95": 0.017050597923318648 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7332499980926513, + "std": 0.012130491868731075, + "n": 5, + "ci95": 0.01505958037342388 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5521626591682434, + "std": 0.010747046382003076, + "n": 5, + "ci95": 0.013342081303717137 + }, + "covertype_test_accuracy": { + "mean": 0.7518000125885009, + "std": 0.008671804743317274, + "n": 5, + "ci95": 0.010765741564961441 + }, + "covertype_test_precision": { + "mean": 0.7477983236312866, + "std": 0.004146172139255093, + "n": 5, + "ci95": 0.005147327350683469 + }, + "covertype_test_recall": { + "mean": 0.7518000125885009, + "std": 0.008671804743317274, + "n": 5, + "ci95": 0.010765741564961441 + }, + "covertype_test_f1-score": { + "mean": 0.7420482516288758, + "std": 0.0122514331315556, + "n": 5, + "ci95": 0.015209724711153842 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7518000125885009, + "std": 0.008671804743317274, + "n": 5, + "ci95": 0.010765741564961441 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..e0e2a123595f89dc5079c6ed2f15fe93cf746e2b --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpwj43iem5", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpwj43iem5/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5845953226089478, + "lr": 0.0, + "covertype_val_accuracy": 0.7637637853622437, + "covertype_val_precision": 0.7596954107284546, + "covertype_val_recall": 0.7637637853622437, + "covertype_val_f1-score": 0.7612478137016296, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7637637853622437 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5479215979576111, + "lr": 0.0, + "covertype_test_accuracy": 0.7835000157356262, + "covertype_test_precision": 0.7839362025260925, + "covertype_test_recall": 0.7835000157356262, + "covertype_test_f1-score": 0.783331036567688, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7835000157356262 + }, + "5": { + "covertype_test_loss": 0.526853084564209, + "covertype_test_accuracy": 0.7894737124443054, + "covertype_test_precision": 0.7908850312232971, + "covertype_test_recall": 0.7894737124443054, + "covertype_test_f1-score": 0.7892995476722717, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7894737124443054 + }, + "10": { + "covertype_test_loss": 0.5097914934158325, + "covertype_test_accuracy": 0.7938888669013977, + "covertype_test_precision": 0.7934736609458923, + "covertype_test_recall": 0.7938888669013977, + "covertype_test_f1-score": 0.7926462292671204, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7938888669013977 + }, + "20": { + "covertype_test_loss": 0.47712743282318115, + "covertype_test_accuracy": 0.7981250286102295, + "covertype_test_precision": 0.7970889210700989, + "covertype_test_recall": 0.7981250286102295, + "covertype_test_f1-score": 0.7972737550735474, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7981250286102295 + }, + "50": { + "covertype_test_loss": 0.46875131130218506, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.8019104599952698, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.8021412491798401, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6091848611831665, + "lr": 0.0, + "covertype_val_accuracy": 0.7577577829360962, + "covertype_val_precision": 0.750266969203949, + "covertype_val_recall": 0.7577577829360962, + "covertype_val_f1-score": 0.7511199712753296, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7577577829360962 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5711759924888611, + "lr": 0.0, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7813184261322021, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.7792443633079529, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.781000018119812 + }, + "5": { + "covertype_test_loss": 0.5536089539527893, + "covertype_test_accuracy": 0.7868421077728271, + "covertype_test_precision": 0.7873963117599487, + "covertype_test_recall": 0.7868421077728271, + "covertype_test_f1-score": 0.7855914235115051, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7868421077728271 + }, + "10": { + "covertype_test_loss": 0.5393866896629333, + "covertype_test_accuracy": 0.7916666865348816, + "covertype_test_precision": 0.7899214625358582, + "covertype_test_recall": 0.7916666865348816, + "covertype_test_f1-score": 0.78953617811203, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7916666865348816 + }, + "20": { + "covertype_test_loss": 0.5135830640792847, + "covertype_test_accuracy": 0.7962499856948853, + "covertype_test_precision": 0.7948711514472961, + "covertype_test_recall": 0.7962499856948853, + "covertype_test_f1-score": 0.7942922711372375, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7962499856948853 + }, + "50": { + "covertype_test_loss": 0.4756374657154083, + "covertype_test_accuracy": 0.8069999814033508, + "covertype_test_precision": 0.8081817030906677, + "covertype_test_recall": 0.8069999814033508, + "covertype_test_f1-score": 0.8040834665298462, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8069999814033508 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6260364651679993, + "lr": 0.0, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7619104385375977, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7540035843849182, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5703848600387573, + "lr": 0.0, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7812521457672119, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.769594132900238, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7699999809265137 + }, + "5": { + "covertype_test_loss": 0.55410236120224, + "covertype_test_accuracy": 0.7747368216514587, + "covertype_test_precision": 0.786590576171875, + "covertype_test_recall": 0.7747368216514587, + "covertype_test_f1-score": 0.7742820382118225, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7747368216514587 + }, + "10": { + "covertype_test_loss": 0.5339823961257935, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7908282279968262, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7790839672088623, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7799999713897705 + }, + "20": { + "covertype_test_loss": 0.5182422399520874, + "covertype_test_accuracy": 0.7856249809265137, + "covertype_test_precision": 0.7958317399024963, + "covertype_test_recall": 0.7856249809265137, + "covertype_test_f1-score": 0.7853151559829712, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7856249809265137 + }, + "50": { + "covertype_test_loss": 0.5069690942764282, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7995293736457825, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.790185272693634, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7910000085830688 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5824281573295593, + "lr": 0.0, + "covertype_val_accuracy": 0.7797797918319702, + "covertype_val_precision": 0.7740602493286133, + "covertype_val_recall": 0.7797797918319702, + "covertype_val_f1-score": 0.7756581902503967, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7797797918319702 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5549430251121521, + "lr": 0.0, + "covertype_test_accuracy": 0.7829999923706055, + "covertype_test_precision": 0.7812036275863647, + "covertype_test_recall": 0.7829999923706055, + "covertype_test_f1-score": 0.7815268039703369, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7829999923706055 + }, + "5": { + "covertype_test_loss": 0.5396926403045654, + "covertype_test_accuracy": 0.788947343826294, + "covertype_test_precision": 0.7863272428512573, + "covertype_test_recall": 0.788947343826294, + "covertype_test_f1-score": 0.7873738408088684, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.788947343826294 + }, + "10": { + "covertype_test_loss": 0.5206867456436157, + "covertype_test_accuracy": 0.7944444417953491, + "covertype_test_precision": 0.792381763458252, + "covertype_test_recall": 0.7944444417953491, + "covertype_test_f1-score": 0.7923054099082947, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7944444417953491 + }, + "20": { + "covertype_test_loss": 0.4989587664604187, + "covertype_test_accuracy": 0.7975000143051147, + "covertype_test_precision": 0.7946884632110596, + "covertype_test_recall": 0.7975000143051147, + "covertype_test_f1-score": 0.7949562668800354, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7975000143051147 + }, + "50": { + "covertype_test_loss": 0.47805434465408325, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.8002926707267761, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7992568016052246, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.800000011920929 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5571883916854858, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7857857942581177, + "covertype_val_precision": 0.77872633934021, + "covertype_val_recall": 0.7857857942581177, + "covertype_val_f1-score": 0.7814545631408691, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7857857942581177 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.567616879940033, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7831931114196777, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7822020053863525, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7850000262260437 + }, + "5": { + "covertype_test_loss": 0.5505684018135071, + "covertype_test_accuracy": 0.7905263304710388, + "covertype_test_precision": 0.7873038649559021, + "covertype_test_recall": 0.7905263304710388, + "covertype_test_f1-score": 0.7883769869804382, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7905263304710388 + }, + "10": { + "covertype_test_loss": 0.5298118591308594, + "covertype_test_accuracy": 0.7961111068725586, + "covertype_test_precision": 0.7933164834976196, + "covertype_test_recall": 0.7961111068725586, + "covertype_test_f1-score": 0.7939538955688477, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7961111068725586 + }, + "20": { + "covertype_test_loss": 0.5067124962806702, + "covertype_test_accuracy": 0.8006250262260437, + "covertype_test_precision": 0.7988265752792358, + "covertype_test_recall": 0.8006250262260437, + "covertype_test_f1-score": 0.7989862561225891, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8006250262260437 + }, + "50": { + "covertype_test_loss": 0.49673357605934143, + "covertype_test_accuracy": 0.8080000281333923, + "covertype_test_precision": 0.8068599700927734, + "covertype_test_recall": 0.8080000281333923, + "covertype_test_f1-score": 0.8064578175544739, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8080000281333923 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5624084711074829, + "std": 0.010406994182910644, + "n": 5, + "ci95": 0.012919918420397244 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7805000066757202, + "std": 0.006041537696763669, + "n": 5, + "ci95": 0.007500357240913765 + }, + "covertype_test_precision": { + "mean": 0.7821807026863098, + "std": 0.0012910427655172594, + "n": 5, + "ci95": 0.0016027843308606428 + }, + "covertype_test_recall": { + "mean": 0.7805000066757202, + "std": 0.006041537696763669, + "n": 5, + "ci95": 0.007500357240913765 + }, + "covertype_test_f1-score": { + "mean": 0.7791796684265136, + "std": 0.005562465733751092, + "n": 5, + "ci95": 0.006905606194565917 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7805000066757202, + "std": 0.006041537696763669, + "n": 5, + "ci95": 0.007500357240913765 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5449650883674622, + "std": 0.01167739995711803, + "n": 5, + "ci95": 0.014497082650056732 + }, + "covertype_test_accuracy": { + "mean": 0.7861052632331849, + "std": 0.006495269655294763, + "n": 5, + "ci95": 0.008063649560090333 + }, + "covertype_test_precision": { + "mean": 0.787700605392456, + "std": 0.001837719714824662, + "n": 5, + "ci95": 0.002281464597537595 + }, + "covertype_test_recall": { + "mean": 0.7861052632331849, + "std": 0.006495269655294763, + "n": 5, + "ci95": 0.008063649560090333 + }, + "covertype_test_f1-score": { + "mean": 0.7849847674369812, + "std": 0.0061389860308105615, + "n": 5, + "ci95": 0.00762133593120235 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7861052632331849, + "std": 0.006495269655294763, + "n": 5, + "ci95": 0.008063649560090333 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5267318367958069, + "std": 0.01168033400785737, + "n": 5, + "ci95": 0.014500725171185053 + }, + "covertype_test_accuracy": { + "mean": 0.7912222146987915, + "std": 0.006471695068104638, + "n": 5, + "ci95": 0.008034382536592702 + }, + "covertype_test_precision": { + "mean": 0.7919843196868896, + "std": 0.0015606638793456311, + "n": 5, + "ci95": 0.0019375094910610245 + }, + "covertype_test_recall": { + "mean": 0.7912222146987915, + "std": 0.006471695068104638, + "n": 5, + "ci95": 0.008034382536592702 + }, + "covertype_test_f1-score": { + "mean": 0.789505136013031, + "std": 0.006043616160084539, + "n": 5, + "ci95": 0.007502937580258003 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7912222146987915, + "std": 0.006471695068104638, + "n": 5, + "ci95": 0.008034382536592702 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5029247999191284, + "std": 0.016153968384555465, + "n": 5, + "ci95": 0.020054585409190754 + }, + "covertype_test_accuracy": { + "mean": 0.7956250071525574, + "std": 0.0058128536999076785, + "n": 5, + "ci95": 0.007216454076224627 + }, + "covertype_test_precision": { + "mean": 0.7962613701820374, + "std": 0.0017216593964761847, + "n": 5, + "ci95": 0.0021373797812541404 + }, + "covertype_test_recall": { + "mean": 0.7956250071525574, + "std": 0.0058128536999076785, + "n": 5, + "ci95": 0.007216454076224627 + }, + "covertype_test_f1-score": { + "mean": 0.7941647410392761, + "std": 0.005288452247944607, + "n": 5, + "ci95": 0.006565428058546403 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7956250071525574, + "std": 0.0058128536999076785, + "n": 5, + "ci95": 0.007216454076224627 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4852291584014893, + "std": 0.015968519056373007, + "n": 5, + "ci95": 0.019824356569900226 + }, + "covertype_test_accuracy": { + "mean": 0.8018000006675721, + "std": 0.0068337373203546554, + "n": 5, + "ci95": 0.008483845299960836 + }, + "covertype_test_precision": { + "mean": 0.8033548355102539, + "std": 0.003926889715360198, + "n": 5, + "ci95": 0.0048750959092168 + }, + "covertype_test_recall": { + "mean": 0.8018000006675721, + "std": 0.0068337373203546554, + "n": 5, + "ci95": 0.008483845299960836 + }, + "covertype_test_f1-score": { + "mean": 0.8004249215126038, + "std": 0.0063035997455891425, + "n": 5, + "ci95": 0.007825698086925492 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8018000006675721, + "std": 0.0068337373203546554, + "n": 5, + "ci95": 0.008483845299960836 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..39d03e37a5363cc47e219f541da7206000564472 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:185fd00039071d540b38a4191f29cab5136f3bfaa4df74294a474a062f50446f +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..376f497d730db3bc364646d5a502027f5c7c5595 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:813839a0099139eb75329ff518f0515b58eb9b4e515ec2300dbe4e84e5342f51 +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..f93bc62789efba9842122f7e490b77b036fbe60f --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b1ff5c4047c7ef812ab218469ed4cd16c2d48cdd5cd0957bf2cb967695bad153 +size 11507408 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/vtjepa_config.yaml b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..69d2125fffc884f9f598c61920fcaf440ec4daa6 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q6-gpu3-delay60-kl1e-7/pretrain/wjepa_joint/covertype/20260918_032512/vtjepa_config.yaml @@ -0,0 +1,131 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 25 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +predictive_target_detach: false +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 40 +vtjepa_kl_y_end_weight: 1.0e-07 +vtjepa_kl_y_start_epoch: 60 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..87a778c92c27f2fe8f8991c8c43c5552276f374f --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "b8eee4631a2599941fc2db8b4cc17c3f383722749838b9bc7e0267e77537cf6e", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "6f549d93958ab1affbd2c77d8a8ce98e02e4150e008e9989bbcc31323e709a76", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 5e-08, + "start_epoch": 30, + "annealing_epochs": 50 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "25", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "5e-08", + "--vtjepa_kl_y_annealing_epochs", + "50", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "30", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..4e5276c7b107cf8d8ff2b92190d5233d3c947e2b --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp631tk0kh", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp631tk0kh/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6326227188110352, + "lr": 0.0, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.749387800693512, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7513076663017273, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.594437301158905, + "lr": 0.0, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7525336742401123, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7507774233818054, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7519999742507935 + }, + "5": { + "covertype_test_loss": 0.57938152551651, + "covertype_test_accuracy": 0.7547368407249451, + "covertype_test_precision": 0.7537129521369934, + "covertype_test_recall": 0.7547368407249451, + "covertype_test_f1-score": 0.753151535987854, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7547368407249451 + }, + "10": { + "covertype_test_loss": 0.5655897259712219, + "covertype_test_accuracy": 0.757777750492096, + "covertype_test_precision": 0.7568778991699219, + "covertype_test_recall": 0.757777750492096, + "covertype_test_f1-score": 0.7559226751327515, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.757777750492096 + }, + "20": { + "covertype_test_loss": 0.5326817035675049, + "covertype_test_accuracy": 0.7674999833106995, + "covertype_test_precision": 0.7656164765357971, + "covertype_test_recall": 0.7674999833106995, + "covertype_test_f1-score": 0.7649873495101929, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7674999833106995 + }, + "50": { + "covertype_test_loss": 0.5277084708213806, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.761147141456604, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7607312798500061, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7620000243186951 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6537199020385742, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7427614331245422, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7446316480636597, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6383432149887085, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.753000020980835, + "covertype_test_precision": 0.7549324631690979, + "covertype_test_recall": 0.753000020980835, + "covertype_test_f1-score": 0.7524586319923401, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.753000020980835 + }, + "5": { + "covertype_test_loss": 0.6110543012619019, + "covertype_test_accuracy": 0.7584210634231567, + "covertype_test_precision": 0.7606857419013977, + "covertype_test_recall": 0.7584210634231567, + "covertype_test_f1-score": 0.757937490940094, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7584210634231567 + }, + "10": { + "covertype_test_loss": 0.5858270525932312, + "covertype_test_accuracy": 0.7638888955116272, + "covertype_test_precision": 0.765218198299408, + "covertype_test_recall": 0.7638888955116272, + "covertype_test_f1-score": 0.7634156346321106, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7638888955116272 + }, + "20": { + "covertype_test_loss": 0.5465571284294128, + "covertype_test_accuracy": 0.7737500071525574, + "covertype_test_precision": 0.7744171023368835, + "covertype_test_recall": 0.7737500071525574, + "covertype_test_f1-score": 0.7727170586585999, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7737500071525574 + }, + "50": { + "covertype_test_loss": 0.5427159667015076, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.777391791343689, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7768810391426086, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6517529487609863, + "lr": 9.549149399390444e-05, + "covertype_val_accuracy": 0.7407407164573669, + "covertype_val_precision": 0.7442084550857544, + "covertype_val_recall": 0.7407407164573669, + "covertype_val_f1-score": 0.7394506335258484, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7407407164573669 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5986815094947815, + "lr": 9.549151582177728e-05, + "covertype_test_accuracy": 0.7570000290870667, + "covertype_test_precision": 0.7596079111099243, + "covertype_test_recall": 0.7570000290870667, + "covertype_test_f1-score": 0.7565316557884216, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7570000290870667 + }, + "5": { + "covertype_test_loss": 0.5828711986541748, + "covertype_test_accuracy": 0.7636842131614685, + "covertype_test_precision": 0.7666206955909729, + "covertype_test_recall": 0.7636842131614685, + "covertype_test_f1-score": 0.7629978656768799, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7636842131614685 + }, + "10": { + "covertype_test_loss": 0.5615952610969543, + "covertype_test_accuracy": 0.7716666460037231, + "covertype_test_precision": 0.7722009420394897, + "covertype_test_recall": 0.7716666460037231, + "covertype_test_f1-score": 0.7701252102851868, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7716666460037231 + }, + "20": { + "covertype_test_loss": 0.5378127694129944, + "covertype_test_accuracy": 0.7818750143051147, + "covertype_test_precision": 0.781768262386322, + "covertype_test_recall": 0.7818750143051147, + "covertype_test_f1-score": 0.7795263528823853, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7818750143051147 + }, + "50": { + "covertype_test_loss": 0.5266082286834717, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7749691605567932, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7737712264060974, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7749999761581421 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5999866724014282, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.745726466178894, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7463852763175964, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5884814858436584, + "lr": 0.0, + "covertype_test_accuracy": 0.7714999914169312, + "covertype_test_precision": 0.770732045173645, + "covertype_test_recall": 0.7714999914169312, + "covertype_test_f1-score": 0.769902229309082, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7714999914169312 + }, + "5": { + "covertype_test_loss": 0.5683188438415527, + "covertype_test_accuracy": 0.7763158082962036, + "covertype_test_precision": 0.7763338685035706, + "covertype_test_recall": 0.7763158082962036, + "covertype_test_f1-score": 0.7746914625167847, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7763158082962036 + }, + "10": { + "covertype_test_loss": 0.5582696795463562, + "covertype_test_accuracy": 0.7761111259460449, + "covertype_test_precision": 0.7746434807777405, + "covertype_test_recall": 0.7761111259460449, + "covertype_test_f1-score": 0.7738338112831116, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7761111259460449 + }, + "20": { + "covertype_test_loss": 0.5345556735992432, + "covertype_test_accuracy": 0.7837499976158142, + "covertype_test_precision": 0.7826071977615356, + "covertype_test_recall": 0.7837499976158142, + "covertype_test_f1-score": 0.7809003591537476, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7837499976158142 + }, + "50": { + "covertype_test_loss": 0.5200958251953125, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7796326875686646, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7793871164321899, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5745082497596741, + "lr": 0.0, + "covertype_val_accuracy": 0.7717717885971069, + "covertype_val_precision": 0.7699586749076843, + "covertype_val_recall": 0.7717717885971069, + "covertype_val_f1-score": 0.7686932682991028, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7717717885971069 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5763459205627441, + "lr": 0.0, + "covertype_test_accuracy": 0.7714999914169312, + "covertype_test_precision": 0.7711502909660339, + "covertype_test_recall": 0.7714999914169312, + "covertype_test_f1-score": 0.7698100209236145, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7714999914169312 + }, + "5": { + "covertype_test_loss": 0.5564072728157043, + "covertype_test_accuracy": 0.7789473533630371, + "covertype_test_precision": 0.7785868048667908, + "covertype_test_recall": 0.7789473533630371, + "covertype_test_f1-score": 0.7773007750511169, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7789473533630371 + }, + "10": { + "covertype_test_loss": 0.5416201949119568, + "covertype_test_accuracy": 0.7822222113609314, + "covertype_test_precision": 0.7806013822555542, + "covertype_test_recall": 0.7822222113609314, + "covertype_test_f1-score": 0.7802630662918091, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7822222113609314 + }, + "20": { + "covertype_test_loss": 0.5241838693618774, + "covertype_test_accuracy": 0.7887499928474426, + "covertype_test_precision": 0.7872040867805481, + "covertype_test_recall": 0.7887499928474426, + "covertype_test_f1-score": 0.786381185054779, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7887499928474426 + }, + "50": { + "covertype_test_loss": 0.5093792080879211, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.7899766564369202, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7903039455413818, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7919999957084656 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5992578864097595, + "std": 0.0234111199580944, + "n": 5, + "ci95": 0.02906408466004525 + }, + "lr": { + "mean": 1.9295630340820936e-05, + "std": 4.259693736953689e-05, + "n": 5, + "ci95": 5.288260434284829e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7610000014305115, + "std": 0.009766006535542304, + "n": 5, + "ci95": 0.012124154728506227 + }, + "covertype_test_precision": { + "mean": 0.7617912769317627, + "std": 0.008732727245655878, + "n": 5, + "ci95": 0.010841374715739382 + }, + "covertype_test_recall": { + "mean": 0.7610000014305115, + "std": 0.009766006535542304, + "n": 5, + "ci95": 0.012124154728506227 + }, + "covertype_test_f1-score": { + "mean": 0.7598959922790527, + "std": 0.009329980308885027, + "n": 5, + "ci95": 0.01158284345470766 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7610000014305115, + "std": 0.009766006535542304, + "n": 5, + "ci95": 0.012124154728506227 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5796066284179687, + "std": 0.020403972642884446, + "n": 5, + "ci95": 0.0253308166954654 + }, + "covertype_test_accuracy": { + "mean": 0.7664210557937622, + "std": 0.010756687747358063, + "n": 5, + "ci95": 0.013354050720789766 + }, + "covertype_test_precision": { + "mean": 0.7671880125999451, + "std": 0.010461330850549589, + "n": 5, + "ci95": 0.012987375488287626 + }, + "covertype_test_recall": { + "mean": 0.7664210557937622, + "std": 0.010756687747358063, + "n": 5, + "ci95": 0.013354050720789766 + }, + "covertype_test_f1-score": { + "mean": 0.7652158260345459, + "std": 0.010479435620569853, + "n": 5, + "ci95": 0.013009851925534605 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7664210557937622, + "std": 0.010756687747358063, + "n": 5, + "ci95": 0.013354050720789766 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5625803828239441, + "std": 0.015877231389717857, + "n": 5, + "ci95": 0.019711026132192312 + }, + "covertype_test_accuracy": { + "mean": 0.7703333258628845, + "std": 0.009691226318536302, + "n": 5, + "ci95": 0.012031317710804837 + }, + "covertype_test_precision": { + "mean": 0.7699083805084228, + "std": 0.009135214178731057, + "n": 5, + "ci95": 0.01134104813240625 + }, + "covertype_test_recall": { + "mean": 0.7703333258628845, + "std": 0.009691226318536302, + "n": 5, + "ci95": 0.012031317710804837 + }, + "covertype_test_f1-score": { + "mean": 0.7687120795249939, + "std": 0.00939781308664832, + "n": 5, + "ci95": 0.01166705547015875 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7703333258628845, + "std": 0.009691226318536302, + "n": 5, + "ci95": 0.012031317710804837 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5351582288742065, + "std": 0.008122719890863507, + "n": 5, + "ci95": 0.010084071970946695 + }, + "covertype_test_accuracy": { + "mean": 0.7791249990463257, + "std": 0.008450225293956894, + "n": 5, + "ci95": 0.01049065844691054 + }, + "covertype_test_precision": { + "mean": 0.7783226251602173, + "std": 0.008452953036849476, + "n": 5, + "ci95": 0.010494044844080036 + }, + "covertype_test_recall": { + "mean": 0.7791249990463257, + "std": 0.008450225293956894, + "n": 5, + "ci95": 0.01049065844691054 + }, + "covertype_test_f1-score": { + "mean": 0.7769024610519409, + "std": 0.008249267884769595, + "n": 5, + "ci95": 0.010241176868748637 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7791249990463257, + "std": 0.008450225293956894, + "n": 5, + "ci95": 0.01049065844691054 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5253015398979187, + "std": 0.012159185095872504, + "n": 5, + "ci95": 0.015095202008967207 + }, + "covertype_test_accuracy": { + "mean": 0.777999997138977, + "std": 0.010931597037736199, + "n": 5, + "ci95": 0.01357119447266828 + }, + "covertype_test_precision": { + "mean": 0.7766234874725342, + "std": 0.010370713343321259, + "n": 5, + "ci95": 0.012874877030013063 + }, + "covertype_test_recall": { + "mean": 0.777999997138977, + "std": 0.010931597037736199, + "n": 5, + "ci95": 0.01357119447266828 + }, + "covertype_test_f1-score": { + "mean": 0.7762149214744568, + "std": 0.010662105048929487, + "n": 5, + "ci95": 0.013236629616655308 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.777999997138977, + "std": 0.010931597037736199, + "n": 5, + "ci95": 0.01357119447266828 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..94d062213cb04f9836d22b0e7e6d1d6844f5bf44 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpi3k_8iqf", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpi3k_8iqf/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5712002515792847, + "lr": 0.0, + "covertype_val_accuracy": 0.7777777910232544, + "covertype_val_precision": 0.7732260227203369, + "covertype_val_recall": 0.7777777910232544, + "covertype_val_f1-score": 0.775078296661377, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7777777910232544 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5744679570198059, + "lr": 0.0, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7840873599052429, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7836721539497375, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7850000262260437 + }, + "5": { + "covertype_test_loss": 0.5598236918449402, + "covertype_test_accuracy": 0.7910526394844055, + "covertype_test_precision": 0.7904031872749329, + "covertype_test_recall": 0.7910526394844055, + "covertype_test_f1-score": 0.7898110747337341, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7910526394844055 + }, + "10": { + "covertype_test_loss": 0.5107858180999756, + "covertype_test_accuracy": 0.7961111068725586, + "covertype_test_precision": 0.7940372228622437, + "covertype_test_recall": 0.7961111068725586, + "covertype_test_f1-score": 0.7945452332496643, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7961111068725586 + }, + "20": { + "covertype_test_loss": 0.4892081916332245, + "covertype_test_accuracy": 0.8012499809265137, + "covertype_test_precision": 0.7993618249893188, + "covertype_test_recall": 0.8012499809265137, + "covertype_test_f1-score": 0.7993561625480652, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8012499809265137 + }, + "50": { + "covertype_test_loss": 0.49510952830314636, + "covertype_test_accuracy": 0.7990000247955322, + "covertype_test_precision": 0.7971926331520081, + "covertype_test_recall": 0.7990000247955322, + "covertype_test_f1-score": 0.7973949909210205, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7990000247955322 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5609516501426697, + "lr": 0.0, + "covertype_val_accuracy": 0.7757757902145386, + "covertype_val_precision": 0.7678253054618835, + "covertype_val_recall": 0.7757757902145386, + "covertype_val_f1-score": 0.7695503830909729, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7757757902145386 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5835714340209961, + "lr": 0.0, + "covertype_test_accuracy": 0.7889999747276306, + "covertype_test_precision": 0.789620041847229, + "covertype_test_recall": 0.7889999747276306, + "covertype_test_f1-score": 0.7870169878005981, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7889999747276306 + }, + "5": { + "covertype_test_loss": 0.563213586807251, + "covertype_test_accuracy": 0.7973684072494507, + "covertype_test_precision": 0.7954986095428467, + "covertype_test_recall": 0.7973684072494507, + "covertype_test_f1-score": 0.7952930331230164, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7973684072494507 + }, + "10": { + "covertype_test_loss": 0.5330548882484436, + "covertype_test_accuracy": 0.8022222518920898, + "covertype_test_precision": 0.8005040884017944, + "covertype_test_recall": 0.8022222518920898, + "covertype_test_f1-score": 0.8002866506576538, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8022222518920898 + }, + "20": { + "covertype_test_loss": 0.5162420868873596, + "covertype_test_accuracy": 0.8068749904632568, + "covertype_test_precision": 0.8054025173187256, + "covertype_test_recall": 0.8068749904632568, + "covertype_test_f1-score": 0.80502849817276, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8068749904632568 + }, + "50": { + "covertype_test_loss": 0.523032546043396, + "covertype_test_accuracy": 0.8059999942779541, + "covertype_test_precision": 0.8050150871276855, + "covertype_test_recall": 0.8059999942779541, + "covertype_test_f1-score": 0.8047544956207275, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8059999942779541 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5572577714920044, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.781781792640686, + "covertype_val_precision": 0.7768073678016663, + "covertype_val_recall": 0.781781792640686, + "covertype_val_f1-score": 0.7780570983886719, + "covertype_val_support": 999.0, + "covertype_val_score": 0.781781792640686 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5732610821723938, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.7843406796455383, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7828491926193237, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7839999794960022 + }, + "5": { + "covertype_test_loss": 0.5574323534965515, + "covertype_test_accuracy": 0.7915789484977722, + "covertype_test_precision": 0.7908285856246948, + "covertype_test_recall": 0.7915789484977722, + "covertype_test_f1-score": 0.7904686331748962, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7915789484977722 + }, + "10": { + "covertype_test_loss": 0.5333446264266968, + "covertype_test_accuracy": 0.79666668176651, + "covertype_test_precision": 0.7960387468338013, + "covertype_test_recall": 0.79666668176651, + "covertype_test_f1-score": 0.7955999970436096, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.79666668176651 + }, + "20": { + "covertype_test_loss": 0.5137870907783508, + "covertype_test_accuracy": 0.8037499785423279, + "covertype_test_precision": 0.8035609722137451, + "covertype_test_recall": 0.8037499785423279, + "covertype_test_f1-score": 0.8026185035705566, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8037499785423279 + }, + "50": { + "covertype_test_loss": 0.505515456199646, + "covertype_test_accuracy": 0.8149999976158142, + "covertype_test_precision": 0.8136484622955322, + "covertype_test_recall": 0.8149999976158142, + "covertype_test_f1-score": 0.8137211203575134, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8149999976158142 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5726300477981567, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7662538886070251, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7668287754058838, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5613216757774353, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7905975580215454, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7899526953697205, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7910000085830688 + }, + "5": { + "covertype_test_loss": 0.544321596622467, + "covertype_test_accuracy": 0.7973684072494507, + "covertype_test_precision": 0.7958070039749146, + "covertype_test_recall": 0.7973684072494507, + "covertype_test_f1-score": 0.7959391474723816, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7973684072494507 + }, + "10": { + "covertype_test_loss": 0.5180427432060242, + "covertype_test_accuracy": 0.8038889169692993, + "covertype_test_precision": 0.8021005392074585, + "covertype_test_recall": 0.8038889169692993, + "covertype_test_f1-score": 0.8023466467857361, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8038889169692993 + }, + "20": { + "covertype_test_loss": 0.49772971868515015, + "covertype_test_accuracy": 0.8112499713897705, + "covertype_test_precision": 0.80955570936203, + "covertype_test_recall": 0.8112499713897705, + "covertype_test_f1-score": 0.8095308542251587, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8112499713897705 + }, + "50": { + "covertype_test_loss": 0.4881160855293274, + "covertype_test_accuracy": 0.8180000185966492, + "covertype_test_precision": 0.8177040815353394, + "covertype_test_recall": 0.8180000185966492, + "covertype_test_f1-score": 0.8171590566635132, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8180000185966492 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5719526410102844, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7767767906188965, + "covertype_val_precision": 0.774405837059021, + "covertype_val_recall": 0.7767767906188965, + "covertype_val_f1-score": 0.7732269167900085, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7767767906188965 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5675233006477356, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7908327579498291, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7899385690689087, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7910000085830688 + }, + "5": { + "covertype_test_loss": 0.5479798913002014, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7984005808830261, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7986305952072144, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.800000011920929 + }, + "10": { + "covertype_test_loss": 0.5254559516906738, + "covertype_test_accuracy": 0.8088889122009277, + "covertype_test_precision": 0.8068534135818481, + "covertype_test_recall": 0.8088889122009277, + "covertype_test_f1-score": 0.8071375489234924, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8088889122009277 + }, + "20": { + "covertype_test_loss": 0.5053168535232544, + "covertype_test_accuracy": 0.8143749833106995, + "covertype_test_precision": 0.8126579523086548, + "covertype_test_recall": 0.8143749833106995, + "covertype_test_f1-score": 0.8126614093780518, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8143749833106995 + }, + "50": { + "covertype_test_loss": 0.5094414949417114, + "covertype_test_accuracy": 0.8149999976158142, + "covertype_test_precision": 0.812932014465332, + "covertype_test_recall": 0.8149999976158142, + "covertype_test_f1-score": 0.8130632638931274, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8149999976158142 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5720290899276733, + "std": 0.008301241466984334, + "n": 5, + "ci95": 0.010305700248932024 + }, + "lr": { + "mean": 3.7398767062768455e-06, + "std": 4.688037332219088e-06, + "n": 5, + "ci95": 5.820033990554928e-06 + }, + "covertype_test_accuracy": { + "mean": 0.7879999995231628, + "std": 0.0033166270188890977, + "n": 5, + "ci95": 0.004117476166681967 + }, + "covertype_test_precision": { + "mean": 0.787895679473877, + "std": 0.0033926879082525874, + "n": 5, + "ci95": 0.0042119030942162254 + }, + "covertype_test_recall": { + "mean": 0.7879999995231628, + "std": 0.0033166270188890977, + "n": 5, + "ci95": 0.004117476166681967 + }, + "covertype_test_f1-score": { + "mean": 0.7866859197616577, + "std": 0.003360223800940309, + "n": 5, + "ci95": 0.004171600043143668 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7879999995231628, + "std": 0.0033166270188890977, + "n": 5, + "ci95": 0.004117476166681967 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5545542240142822, + "std": 0.008046179194040765, + "n": 5, + "ci95": 0.009989049379273293 + }, + "covertype_test_accuracy": { + "mean": 0.7954736828804017, + "std": 0.003949120030873152, + "n": 5, + "ci95": 0.004902694066555899 + }, + "covertype_test_precision": { + "mean": 0.794187593460083, + "std": 0.0034530848680234725, + "n": 5, + "ci95": 0.004286883802321282 + }, + "covertype_test_recall": { + "mean": 0.7954736828804017, + "std": 0.003949120030873152, + "n": 5, + "ci95": 0.004902694066555899 + }, + "covertype_test_f1-score": { + "mean": 0.7940284967422485, + "std": 0.0037712141867092355, + "n": 5, + "ci95": 0.004681830198208194 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7954736828804017, + "std": 0.003949120030873152, + "n": 5, + "ci95": 0.004902694066555899 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5241368055343628, + "std": 0.009765279983147442, + "n": 5, + "ci95": 0.012123252739180128 + }, + "covertype_test_accuracy": { + "mean": 0.8015555739402771, + "std": 0.005320016155187753, + "n": 5, + "ci95": 0.0066046135427931495 + }, + "covertype_test_precision": { + "mean": 0.7999068021774292, + "std": 0.005070464881876321, + "n": 5, + "ci95": 0.006294804385968177 + }, + "covertype_test_recall": { + "mean": 0.8015555739402771, + "std": 0.005320016155187753, + "n": 5, + "ci95": 0.0066046135427931495 + }, + "covertype_test_f1-score": { + "mean": 0.7999832153320312, + "std": 0.005139227132147514, + "n": 5, + "ci95": 0.0063801703089515485 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8015555739402771, + "std": 0.005320016155187753, + "n": 5, + "ci95": 0.0066046135427931495 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5044567883014679, + "std": 0.011230101126303642, + "n": 5, + "ci95": 0.013941776833402123 + }, + "covertype_test_accuracy": { + "mean": 0.8074999809265136, + "std": 0.005358258047575691, + "n": 5, + "ci95": 0.006652089511474396 + }, + "covertype_test_precision": { + "mean": 0.8061077952384949, + "std": 0.005178911770664681, + "n": 5, + "ci95": 0.006429437396371151 + }, + "covertype_test_recall": { + "mean": 0.8074999809265136, + "std": 0.005358258047575691, + "n": 5, + "ci95": 0.006652089511474396 + }, + "covertype_test_f1-score": { + "mean": 0.8058390855789185, + "std": 0.005320496903418828, + "n": 5, + "ci95": 0.00660521037486753 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8074999809265136, + "std": 0.005358258047575691, + "n": 5, + "ci95": 0.006652089511474396 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5042430222034454, + "std": 0.013464659395386372, + "n": 5, + "ci95": 0.016715902583331048 + }, + "covertype_test_accuracy": { + "mean": 0.8106000065803528, + "std": 0.007893030321999287, + "n": 5, + "ci95": 0.00979892042386358 + }, + "covertype_test_precision": { + "mean": 0.8092984557151794, + "std": 0.008180434558380453, + "n": 5, + "ci95": 0.010155722707256681 + }, + "covertype_test_recall": { + "mean": 0.8106000065803528, + "std": 0.007893030321999287, + "n": 5, + "ci95": 0.00979892042386358 + }, + "covertype_test_f1-score": { + "mean": 0.8092185854911804, + "std": 0.008028557491956212, + "n": 5, + "ci95": 0.009967172653932673 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8106000065803528, + "std": 0.007893030321999287, + "n": 5, + "ci95": 0.00979892042386358 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..0a35f14c9155be898d51ec6e0249038d80f13f89 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmprl8vvymo", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmprl8vvymo/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5868549346923828, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7523459196090698, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7490492463111877, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5889189839363098, + "lr": 0.0, + "covertype_test_accuracy": 0.7444999814033508, + "covertype_test_precision": 0.7466033101081848, + "covertype_test_recall": 0.7444999814033508, + "covertype_test_f1-score": 0.7416732311248779, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7444999814033508 + }, + "5": { + "covertype_test_loss": 0.5701681971549988, + "covertype_test_accuracy": 0.7521052360534668, + "covertype_test_precision": 0.7544642686843872, + "covertype_test_recall": 0.7521052360534668, + "covertype_test_f1-score": 0.7497006058692932, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7521052360534668 + }, + "10": { + "covertype_test_loss": 0.552899181842804, + "covertype_test_accuracy": 0.7555555701255798, + "covertype_test_precision": 0.7556713223457336, + "covertype_test_recall": 0.7555555701255798, + "covertype_test_f1-score": 0.7525567412376404, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7555555701255798 + }, + "20": { + "covertype_test_loss": 0.525651752948761, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.766654908657074, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.7622117400169373, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7649999856948853 + }, + "50": { + "covertype_test_loss": 0.5101655721664429, + "covertype_test_accuracy": 0.7680000066757202, + "covertype_test_precision": 0.7673927545547485, + "covertype_test_recall": 0.7680000066757202, + "covertype_test_f1-score": 0.7666283845901489, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7680000066757202 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6317379474639893, + "lr": 0.0, + "covertype_val_accuracy": 0.7377377152442932, + "covertype_val_precision": 0.733314573764801, + "covertype_val_recall": 0.7377377152442932, + "covertype_val_f1-score": 0.7321439385414124, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7377377152442932 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5953727960586548, + "lr": 0.0, + "covertype_test_accuracy": 0.7475000023841858, + "covertype_test_precision": 0.7492551803588867, + "covertype_test_recall": 0.7475000023841858, + "covertype_test_f1-score": 0.7449489831924438, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7475000023841858 + }, + "5": { + "covertype_test_loss": 0.5805277824401855, + "covertype_test_accuracy": 0.7536842226982117, + "covertype_test_precision": 0.756382167339325, + "covertype_test_recall": 0.7536842226982117, + "covertype_test_f1-score": 0.7521223425865173, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7536842226982117 + }, + "10": { + "covertype_test_loss": 0.566451370716095, + "covertype_test_accuracy": 0.7566666603088379, + "covertype_test_precision": 0.75832200050354, + "covertype_test_recall": 0.7566666603088379, + "covertype_test_f1-score": 0.7545151114463806, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7566666603088379 + }, + "20": { + "covertype_test_loss": 0.5428689122200012, + "covertype_test_accuracy": 0.7637500166893005, + "covertype_test_precision": 0.766665518283844, + "covertype_test_recall": 0.7637500166893005, + "covertype_test_f1-score": 0.7617020606994629, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7637500166893005 + }, + "50": { + "covertype_test_loss": 0.520746648311615, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.772061824798584, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7713379859924316, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7730000019073486 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5746796131134033, + "lr": 0.0, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.7580568194389343, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.7539041638374329, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5543010830879211, + "lr": 0.0, + "covertype_test_accuracy": 0.7705000042915344, + "covertype_test_precision": 0.7731215953826904, + "covertype_test_recall": 0.7705000042915344, + "covertype_test_f1-score": 0.7692508697509766, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7705000042915344 + }, + "5": { + "covertype_test_loss": 0.5360893607139587, + "covertype_test_accuracy": 0.7763158082962036, + "covertype_test_precision": 0.7772137522697449, + "covertype_test_recall": 0.7763158082962036, + "covertype_test_f1-score": 0.7749018669128418, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7763158082962036 + }, + "10": { + "covertype_test_loss": 0.5171488523483276, + "covertype_test_accuracy": 0.7816666960716248, + "covertype_test_precision": 0.7826192378997803, + "covertype_test_recall": 0.7816666960716248, + "covertype_test_f1-score": 0.780337393283844, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7816666960716248 + }, + "20": { + "covertype_test_loss": 0.49424469470977783, + "covertype_test_accuracy": 0.7893750071525574, + "covertype_test_precision": 0.7909648418426514, + "covertype_test_recall": 0.7893750071525574, + "covertype_test_f1-score": 0.7881602644920349, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7893750071525574 + }, + "50": { + "covertype_test_loss": 0.487772673368454, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7888677716255188, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7888916730880737, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7900000214576721 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6048537492752075, + "lr": 0.0, + "covertype_val_accuracy": 0.7307307124137878, + "covertype_val_precision": 0.7289294600486755, + "covertype_val_recall": 0.7307307124137878, + "covertype_val_f1-score": 0.7268344163894653, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7307307124137878 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5673054456710815, + "lr": 0.0, + "covertype_test_accuracy": 0.7584999799728394, + "covertype_test_precision": 0.7606415152549744, + "covertype_test_recall": 0.7584999799728394, + "covertype_test_f1-score": 0.7557846307754517, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7584999799728394 + }, + "5": { + "covertype_test_loss": 0.5529491305351257, + "covertype_test_accuracy": 0.7684210538864136, + "covertype_test_precision": 0.7704954147338867, + "covertype_test_recall": 0.7684210538864136, + "covertype_test_f1-score": 0.7661086320877075, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7684210538864136 + }, + "10": { + "covertype_test_loss": 0.538732647895813, + "covertype_test_accuracy": 0.772777795791626, + "covertype_test_precision": 0.773016095161438, + "covertype_test_recall": 0.772777795791626, + "covertype_test_f1-score": 0.7702889442443848, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.772777795791626 + }, + "20": { + "covertype_test_loss": 0.5181717872619629, + "covertype_test_accuracy": 0.7793750166893005, + "covertype_test_precision": 0.7793309092521667, + "covertype_test_recall": 0.7793750166893005, + "covertype_test_f1-score": 0.7769511938095093, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7793750166893005 + }, + "50": { + "covertype_test_loss": 0.5082547664642334, + "covertype_test_accuracy": 0.7770000100135803, + "covertype_test_precision": 0.7758661508560181, + "covertype_test_recall": 0.7770000100135803, + "covertype_test_f1-score": 0.7748629450798035, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7770000100135803 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5921874046325684, + "lr": 0.0, + "covertype_val_accuracy": 0.7417417168617249, + "covertype_val_precision": 0.7374423742294312, + "covertype_val_recall": 0.7417417168617249, + "covertype_val_f1-score": 0.7362958788871765, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7417417168617249 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5822055339813232, + "lr": 0.0, + "covertype_test_accuracy": 0.7494999766349792, + "covertype_test_precision": 0.749546468257904, + "covertype_test_recall": 0.7494999766349792, + "covertype_test_f1-score": 0.747082531452179, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7494999766349792 + }, + "5": { + "covertype_test_loss": 0.563068151473999, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7608656883239746, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7582043409347534, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7599999904632568 + }, + "10": { + "covertype_test_loss": 0.5492331385612488, + "covertype_test_accuracy": 0.7644444704055786, + "covertype_test_precision": 0.7632353901863098, + "covertype_test_recall": 0.7644444704055786, + "covertype_test_f1-score": 0.7621501088142395, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7644444704055786 + }, + "20": { + "covertype_test_loss": 0.5307225584983826, + "covertype_test_accuracy": 0.7693750262260437, + "covertype_test_precision": 0.7699448466300964, + "covertype_test_recall": 0.7693750262260437, + "covertype_test_f1-score": 0.7667215466499329, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7693750262260437 + }, + "50": { + "covertype_test_loss": 0.5261122584342957, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7691056728363037, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7678062319755554, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7699999809265137 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5776207685470581, + "std": 0.01668845290755236, + "n": 5, + "ci95": 0.02071812920605617 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.754099988937378, + "std": 0.010549887500189552, + "n": 5, + "ci95": 0.013097315464117614 + }, + "covertype_test_precision": { + "mean": 0.7558336138725281, + "std": 0.011067889539722327, + "n": 5, + "ci95": 0.013740396835619935 + }, + "covertype_test_recall": { + "mean": 0.754099988937378, + "std": 0.010549887500189552, + "n": 5, + "ci95": 0.013097315464117614 + }, + "covertype_test_f1-score": { + "mean": 0.7517480492591858, + "std": 0.011092103404360558, + "n": 5, + "ci95": 0.013770457499657029 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.754099988937378, + "std": 0.010549887500189552, + "n": 5, + "ci95": 0.013097315464117614 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5605605244636536, + "std": 0.016985715555048183, + "n": 5, + "ci95": 0.021087170361223144 + }, + "covertype_test_accuracy": { + "mean": 0.7621052622795105, + "std": 0.010212436576131762, + "n": 5, + "ci95": 0.01267838197255541 + }, + "covertype_test_precision": { + "mean": 0.7638842582702636, + "std": 0.00968906776634682, + "n": 5, + "ci95": 0.012028637943938042 + }, + "covertype_test_recall": { + "mean": 0.7621052622795105, + "std": 0.010212436576131762, + "n": 5, + "ci95": 0.01267838197255541 + }, + "covertype_test_f1-score": { + "mean": 0.7602075576782227, + "std": 0.01037454842131106, + "n": 5, + "ci95": 0.012879638144883816 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7621052622795105, + "std": 0.010212436576131762, + "n": 5, + "ci95": 0.01267838197255541 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5448930382728576, + "std": 0.018407788876732983, + "n": 5, + "ci95": 0.02285262453377966 + }, + "covertype_test_accuracy": { + "mean": 0.7662222385406494, + "std": 0.011065192601806788, + "n": 5, + "ci95": 0.013737048681749447 + }, + "covertype_test_precision": { + "mean": 0.7665728092193603, + "std": 0.011147426086885015, + "n": 5, + "ci95": 0.013839138670459184 + }, + "covertype_test_recall": { + "mean": 0.7662222385406494, + "std": 0.011065192601806788, + "n": 5, + "ci95": 0.013737048681749447 + }, + "covertype_test_f1-score": { + "mean": 0.7639696598052979, + "std": 0.011519440261563851, + "n": 5, + "ci95": 0.014300981225918143 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7662222385406494, + "std": 0.011065192601806788, + "n": 5, + "ci95": 0.013737048681749447 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5223319411277771, + "std": 0.01809275465180856, + "n": 5, + "ci95": 0.022461520588286894 + }, + "covertype_test_accuracy": { + "mean": 0.7733750104904175, + "std": 0.010848748633917184, + "n": 5, + "ci95": 0.013468341083900225 + }, + "covertype_test_precision": { + "mean": 0.7747122049331665, + "std": 0.010462761712388273, + "n": 5, + "ci95": 0.012989151853095921 + }, + "covertype_test_recall": { + "mean": 0.7733750104904175, + "std": 0.010848748633917184, + "n": 5, + "ci95": 0.013468341083900225 + }, + "covertype_test_f1-score": { + "mean": 0.7711493611335755, + "std": 0.011311169184581409, + "n": 5, + "ci95": 0.014042419985597661 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7733750104904175, + "std": 0.010848748633917184, + "n": 5, + "ci95": 0.013468341083900225 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5106103837490081, + "std": 0.0147509303401845, + "n": 5, + "ci95": 0.018312762866063634 + }, + "covertype_test_accuracy": { + "mean": 0.775600004196167, + "std": 0.00873499782847359, + "n": 5, + "ci95": 0.010844193564703451 + }, + "covertype_test_precision": { + "mean": 0.7746588349342346, + "std": 0.008569269056396158, + "n": 5, + "ci95": 0.01063844710443646 + }, + "covertype_test_recall": { + "mean": 0.775600004196167, + "std": 0.00873499782847359, + "n": 5, + "ci95": 0.010844193564703451 + }, + "covertype_test_f1-score": { + "mean": 0.7739054441452027, + "std": 0.00897568510187816, + "n": 5, + "ci95": 0.011142998376406072 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.775600004196167, + "std": 0.00873499782847359, + "n": 5, + "ci95": 0.010844193564703451 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..d363b1b41b9dffe9655e5f1c2c317d461a54e5ab --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp_7mq9icm", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp_7mq9icm/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6523396968841553, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.728728711605072, + "covertype_val_precision": 0.7013306021690369, + "covertype_val_recall": 0.728728711605072, + "covertype_val_f1-score": 0.7098766565322876, + "covertype_val_support": 999.0, + "covertype_val_score": 0.728728711605072 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6660451889038086, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7214999794960022, + "covertype_test_precision": 0.7308511137962341, + "covertype_test_recall": 0.7214999794960022, + "covertype_test_f1-score": 0.7059991955757141, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7214999794960022 + }, + "5": { + "covertype_test_loss": 0.6394193768501282, + "covertype_test_accuracy": 0.7326315641403198, + "covertype_test_precision": 0.734542965888977, + "covertype_test_recall": 0.7326315641403198, + "covertype_test_f1-score": 0.7203758358955383, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7326315641403198 + }, + "10": { + "covertype_test_loss": 0.6185117363929749, + "covertype_test_accuracy": 0.7416666746139526, + "covertype_test_precision": 0.7360281348228455, + "covertype_test_recall": 0.7416666746139526, + "covertype_test_f1-score": 0.7307730317115784, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7416666746139526 + }, + "20": { + "covertype_test_loss": 0.5928136110305786, + "covertype_test_accuracy": 0.7481250166893005, + "covertype_test_precision": 0.7388094663619995, + "covertype_test_recall": 0.7481250166893005, + "covertype_test_f1-score": 0.7375448942184448, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7481250166893005 + }, + "50": { + "covertype_test_loss": 0.5536711812019348, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7459622621536255, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7450634241104126, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7549999952316284 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6656489968299866, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7197197079658508, + "covertype_val_precision": 0.7325971722602844, + "covertype_val_recall": 0.7197197079658508, + "covertype_val_f1-score": 0.7167884111404419, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7197197079658508 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6462342143058777, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.718500018119812, + "covertype_test_precision": 0.7231304049491882, + "covertype_test_recall": 0.718500018119812, + "covertype_test_f1-score": 0.7135161757469177, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.718500018119812 + }, + "5": { + "covertype_test_loss": 0.6319344639778137, + "covertype_test_accuracy": 0.7263157963752747, + "covertype_test_precision": 0.7288855314254761, + "covertype_test_recall": 0.7263157963752747, + "covertype_test_f1-score": 0.720163881778717, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7263157963752747 + }, + "10": { + "covertype_test_loss": 0.6174713373184204, + "covertype_test_accuracy": 0.730555534362793, + "covertype_test_precision": 0.7324835062026978, + "covertype_test_recall": 0.730555534362793, + "covertype_test_f1-score": 0.7240728139877319, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.730555534362793 + }, + "20": { + "covertype_test_loss": 0.5899153351783752, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7446713447570801, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7341118454933167, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7400000095367432 + }, + "50": { + "covertype_test_loss": 0.5655372738838196, + "covertype_test_accuracy": 0.7459999918937683, + "covertype_test_precision": 0.7360227108001709, + "covertype_test_recall": 0.7459999918937683, + "covertype_test_f1-score": 0.7391489744186401, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7459999918937683 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.653037965297699, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7257257103919983, + "covertype_val_precision": 0.7189702987670898, + "covertype_val_recall": 0.7257257103919983, + "covertype_val_f1-score": 0.7194278240203857, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7257257103919983 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6450572609901428, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7179999947547913, + "covertype_test_precision": 0.7072110176086426, + "covertype_test_recall": 0.7179999947547913, + "covertype_test_f1-score": 0.7107548713684082, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7179999947547913 + }, + "5": { + "covertype_test_loss": 0.629522979259491, + "covertype_test_accuracy": 0.7236841917037964, + "covertype_test_precision": 0.7126584053039551, + "covertype_test_recall": 0.7236841917037964, + "covertype_test_f1-score": 0.716270923614502, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7236841917037964 + }, + "10": { + "covertype_test_loss": 0.6133301854133606, + "covertype_test_accuracy": 0.7277777791023254, + "covertype_test_precision": 0.7146654725074768, + "covertype_test_recall": 0.7277777791023254, + "covertype_test_f1-score": 0.7188215255737305, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7277777791023254 + }, + "20": { + "covertype_test_loss": 0.5883487462997437, + "covertype_test_accuracy": 0.7362499833106995, + "covertype_test_precision": 0.7266457080841064, + "covertype_test_recall": 0.7362499833106995, + "covertype_test_f1-score": 0.7283418774604797, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7362499833106995 + }, + "50": { + "covertype_test_loss": 0.5370388031005859, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.739940881729126, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.744491696357727, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7519999742507935 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.9177996516227722, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6256256103515625, + "covertype_val_precision": 0.6260852813720703, + "covertype_val_recall": 0.6256256103515625, + "covertype_val_f1-score": 0.5712555050849915, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6256256103515625 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.9345662593841553, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6169999837875366, + "covertype_test_precision": 0.6154282689094543, + "covertype_test_recall": 0.6169999837875366, + "covertype_test_f1-score": 0.557788074016571, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6169999837875366 + }, + "5": { + "covertype_test_loss": 0.9227648973464966, + "covertype_test_accuracy": 0.6189473867416382, + "covertype_test_precision": 0.6190016865730286, + "covertype_test_recall": 0.6189473867416382, + "covertype_test_f1-score": 0.556321382522583, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6189473867416382 + }, + "10": { + "covertype_test_loss": 0.8943505883216858, + "covertype_test_accuracy": 0.6272222399711609, + "covertype_test_precision": 0.6302158832550049, + "covertype_test_recall": 0.6272222399711609, + "covertype_test_f1-score": 0.5614447593688965, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6272222399711609 + }, + "20": { + "covertype_test_loss": 0.8694331645965576, + "covertype_test_accuracy": 0.6349999904632568, + "covertype_test_precision": 0.6366291046142578, + "covertype_test_recall": 0.6349999904632568, + "covertype_test_f1-score": 0.5652427077293396, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6349999904632568 + }, + "50": { + "covertype_test_loss": 0.8296741843223572, + "covertype_test_accuracy": 0.6460000276565552, + "covertype_test_precision": 0.7113757133483887, + "covertype_test_recall": 0.6460000276565552, + "covertype_test_f1-score": 0.5808020830154419, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6460000276565552 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6337302923202515, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7437437176704407, + "covertype_val_precision": 0.7286480069160461, + "covertype_val_recall": 0.7437437176704407, + "covertype_val_f1-score": 0.7307920455932617, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7437437176704407 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6426518559455872, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7250000238418579, + "covertype_test_precision": 0.7156379818916321, + "covertype_test_recall": 0.7250000238418579, + "covertype_test_f1-score": 0.7134192585945129, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7250000238418579 + }, + "5": { + "covertype_test_loss": 0.6269851922988892, + "covertype_test_accuracy": 0.7342105507850647, + "covertype_test_precision": 0.7222248315811157, + "covertype_test_recall": 0.7342105507850647, + "covertype_test_f1-score": 0.7256121039390564, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7342105507850647 + }, + "10": { + "covertype_test_loss": 0.6148123741149902, + "covertype_test_accuracy": 0.7377777695655823, + "covertype_test_precision": 0.7251647114753723, + "covertype_test_recall": 0.7377777695655823, + "covertype_test_f1-score": 0.7297340035438538, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7377777695655823 + }, + "20": { + "covertype_test_loss": 0.595694363117218, + "covertype_test_accuracy": 0.7450000047683716, + "covertype_test_precision": 0.7319055795669556, + "covertype_test_recall": 0.7450000047683716, + "covertype_test_f1-score": 0.7371664047241211, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7450000047683716 + }, + "50": { + "covertype_test_loss": 0.5518317818641663, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7401170134544373, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7457700967788696, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7519999742507935 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.7069109559059144, + "std": 0.12760655017286796, + "n": 5, + "ci95": 0.15841905829533964 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7, + "std": 0.046482532964805846, + "n": 5, + "ci95": 0.05770643504969793 + }, + "covertype_test_precision": { + "mean": 0.6984517574310303, + "std": 0.04723278663324477, + "n": 5, + "ci95": 0.05863784867600242 + }, + "covertype_test_recall": { + "mean": 0.7, + "std": 0.046482532964805846, + "n": 5, + "ci95": 0.05770643504969793 + }, + "covertype_test_f1-score": { + "mean": 0.6802955150604248, + "std": 0.06855165820751748, + "n": 5, + "ci95": 0.08510448031944341 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7, + "std": 0.046482532964805846, + "n": 5, + "ci95": 0.05770643504969793 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6901253819465637, + "std": 0.1301323948644145, + "n": 5, + "ci95": 0.16155480592657814 + }, + "covertype_test_accuracy": { + "mean": 0.7071578979492188, + "std": 0.04950250357189223, + "n": 5, + "ci95": 0.06145562268157196 + }, + "covertype_test_precision": { + "mean": 0.7034626841545105, + "std": 0.047912797486766946, + "n": 5, + "ci95": 0.05948205831022305 + }, + "covertype_test_recall": { + "mean": 0.7071578979492188, + "std": 0.04950250357189223, + "n": 5, + "ci95": 0.06145562268157196 + }, + "covertype_test_f1-score": { + "mean": 0.6877488255500793, + "std": 0.07354517044560428, + "n": 5, + "ci95": 0.09130375069602135 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7071578979492188, + "std": 0.04950250357189223, + "n": 5, + "ci95": 0.06145562268157196 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6716952443122863, + "std": 0.12448520076939308, + "n": 5, + "ci95": 0.15454401244197757 + }, + "covertype_test_accuracy": { + "mean": 0.7129999995231628, + "std": 0.048270383662222874, + "n": 5, + "ci95": 0.05992598901047644 + }, + "covertype_test_precision": { + "mean": 0.7077115416526795, + "std": 0.0440852215547177, + "n": 5, + "ci95": 0.054730256981155585 + }, + "covertype_test_recall": { + "mean": 0.7129999995231628, + "std": 0.048270383662222874, + "n": 5, + "ci95": 0.05992598901047644 + }, + "covertype_test_f1-score": { + "mean": 0.6929692268371582, + "std": 0.0736804527939476, + "n": 5, + "ci95": 0.09147169898864031 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7129999995231628, + "std": 0.048270383662222874, + "n": 5, + "ci95": 0.05992598901047644 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6472410440444947, + "std": 0.12424097939607602, + "n": 5, + "ci95": 0.15424082016913523 + }, + "covertype_test_accuracy": { + "mean": 0.7208750009536743, + "std": 0.04822150098545678, + "n": 5, + "ci95": 0.05986530288104382 + }, + "covertype_test_precision": { + "mean": 0.7157322406768799, + "std": 0.044743761819191444, + "n": 5, + "ci95": 0.05554781163180766 + }, + "covertype_test_recall": { + "mean": 0.7208750009536743, + "std": 0.04822150098545678, + "n": 5, + "ci95": 0.05986530288104382 + }, + "covertype_test_f1-score": { + "mean": 0.7004815459251403, + "std": 0.07569050325282926, + "n": 5, + "ci95": 0.09396710616319971 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7208750009536743, + "std": 0.04822150098545678, + "n": 5, + "ci95": 0.05986530288104382 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6075506448745728, + "std": 0.12458280203342817, + "n": 5, + "ci95": 0.15466518098948495 + }, + "covertype_test_accuracy": { + "mean": 0.7301999926567078, + "std": 0.047182604327863926, + "n": 5, + "ci95": 0.058575549103208134 + }, + "covertype_test_precision": { + "mean": 0.7346837162971497, + "std": 0.013503888428465302, + "n": 5, + "ci95": 0.0167646040525721 + }, + "covertype_test_recall": { + "mean": 0.7301999926567078, + "std": 0.047182604327863926, + "n": 5, + "ci95": 0.058575549103208134 + }, + "covertype_test_f1-score": { + "mean": 0.7110552549362182, + "std": 0.07286085591635479, + "n": 5, + "ci95": 0.09045419819926735 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7301999926567078, + "std": 0.047182604327863926, + "n": 5, + "ci95": 0.058575549103208134 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..0f7a3b9b8d8cec00db3ac8955a4d1785186b5990 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpzu58ibay", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpzu58ibay/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5834442973136902, + "lr": 0.0, + "covertype_val_accuracy": 0.7697697877883911, + "covertype_val_precision": 0.7643371820449829, + "covertype_val_recall": 0.7697697877883911, + "covertype_val_f1-score": 0.7659540772438049, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7697697877883911 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5663321614265442, + "lr": 0.0, + "covertype_test_accuracy": 0.7804999947547913, + "covertype_test_precision": 0.7811416387557983, + "covertype_test_recall": 0.7804999947547913, + "covertype_test_f1-score": 0.779385507106781, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7804999947547913 + }, + "5": { + "covertype_test_loss": 0.5442114472389221, + "covertype_test_accuracy": 0.7868421077728271, + "covertype_test_precision": 0.7863693833351135, + "covertype_test_recall": 0.7868421077728271, + "covertype_test_f1-score": 0.785402238368988, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7868421077728271 + }, + "10": { + "covertype_test_loss": 0.5126155018806458, + "covertype_test_accuracy": 0.7933333516120911, + "covertype_test_precision": 0.7923381924629211, + "covertype_test_recall": 0.7933333516120911, + "covertype_test_f1-score": 0.7916708588600159, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7933333516120911 + }, + "20": { + "covertype_test_loss": 0.4920938014984131, + "covertype_test_accuracy": 0.7981250286102295, + "covertype_test_precision": 0.7962487936019897, + "covertype_test_recall": 0.7981250286102295, + "covertype_test_f1-score": 0.7963933944702148, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7981250286102295 + }, + "50": { + "covertype_test_loss": 0.4938374161720276, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7944469451904297, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7941281795501709, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7950000166893005 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6066171526908875, + "lr": 0.0, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.7411110997200012, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7413778901100159, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5695927143096924, + "lr": 0.0, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7830932140350342, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7799208760261536, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7820000052452087 + }, + "5": { + "covertype_test_loss": 0.5552226305007935, + "covertype_test_accuracy": 0.7884210348129272, + "covertype_test_precision": 0.7915030121803284, + "covertype_test_recall": 0.7884210348129272, + "covertype_test_f1-score": 0.7872564196586609, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7884210348129272 + }, + "10": { + "covertype_test_loss": 0.5356893539428711, + "covertype_test_accuracy": 0.7905555367469788, + "covertype_test_precision": 0.7933357357978821, + "covertype_test_recall": 0.7905555367469788, + "covertype_test_f1-score": 0.7894073724746704, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7905555367469788 + }, + "20": { + "covertype_test_loss": 0.5147568583488464, + "covertype_test_accuracy": 0.7987499833106995, + "covertype_test_precision": 0.8012648820877075, + "covertype_test_recall": 0.7987499833106995, + "covertype_test_f1-score": 0.7974459528923035, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7987499833106995 + }, + "50": { + "covertype_test_loss": 0.47829219698905945, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8121323585510254, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8081133365631104, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8100000023841858 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5901747345924377, + "lr": 0.0, + "covertype_val_accuracy": 0.7557557821273804, + "covertype_val_precision": 0.7636789679527283, + "covertype_val_recall": 0.7557557821273804, + "covertype_val_f1-score": 0.7531976103782654, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7557557821273804 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5660484433174133, + "lr": 0.0, + "covertype_test_accuracy": 0.765500009059906, + "covertype_test_precision": 0.7782503366470337, + "covertype_test_recall": 0.765500009059906, + "covertype_test_f1-score": 0.7653543949127197, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.765500009059906 + }, + "5": { + "covertype_test_loss": 0.5504815578460693, + "covertype_test_accuracy": 0.7710526585578918, + "covertype_test_precision": 0.7838231921195984, + "covertype_test_recall": 0.7710526585578918, + "covertype_test_f1-score": 0.7712744474411011, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7710526585578918 + }, + "10": { + "covertype_test_loss": 0.5300868153572083, + "covertype_test_accuracy": 0.7744444608688354, + "covertype_test_precision": 0.7876610159873962, + "covertype_test_recall": 0.7744444608688354, + "covertype_test_f1-score": 0.7752055525779724, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7744444608688354 + }, + "20": { + "covertype_test_loss": 0.5140619874000549, + "covertype_test_accuracy": 0.7806249856948853, + "covertype_test_precision": 0.7927688956260681, + "covertype_test_recall": 0.7806249856948853, + "covertype_test_f1-score": 0.781481921672821, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7806249856948853 + }, + "50": { + "covertype_test_loss": 0.5197669863700867, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7905631065368652, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7790101766586304, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5866788625717163, + "lr": 0.0, + "covertype_val_accuracy": 0.7737737894058228, + "covertype_val_precision": 0.7666941285133362, + "covertype_val_recall": 0.7737737894058228, + "covertype_val_f1-score": 0.7682695984840393, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7737737894058228 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5516120791435242, + "lr": 0.0, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.782393753528595, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7817652821540833, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7820000052452087 + }, + "5": { + "covertype_test_loss": 0.5334517955780029, + "covertype_test_accuracy": 0.7873684167861938, + "covertype_test_precision": 0.7882152795791626, + "covertype_test_recall": 0.7873684167861938, + "covertype_test_f1-score": 0.7871493697166443, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7873684167861938 + }, + "10": { + "covertype_test_loss": 0.5151513814926147, + "covertype_test_accuracy": 0.7894444465637207, + "covertype_test_precision": 0.7885048389434814, + "covertype_test_recall": 0.7894444465637207, + "covertype_test_f1-score": 0.7887459397315979, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7894444465637207 + }, + "20": { + "covertype_test_loss": 0.4924951195716858, + "covertype_test_accuracy": 0.7956249713897705, + "covertype_test_precision": 0.7947629690170288, + "covertype_test_recall": 0.7956249713897705, + "covertype_test_f1-score": 0.794927716255188, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7956249713897705 + }, + "50": { + "covertype_test_loss": 0.4716673195362091, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8097772002220154, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8096888065338135, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8100000023841858 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6166612505912781, + "lr": 0.0, + "covertype_val_accuracy": 0.7317317128181458, + "covertype_val_precision": 0.731422483921051, + "covertype_val_recall": 0.7317317128181458, + "covertype_val_f1-score": 0.731164276599884, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7317317128181458 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5945109128952026, + "lr": 0.0, + "covertype_test_accuracy": 0.7534999847412109, + "covertype_test_precision": 0.7545928359031677, + "covertype_test_recall": 0.7534999847412109, + "covertype_test_f1-score": 0.753557562828064, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7534999847412109 + }, + "5": { + "covertype_test_loss": 0.5700920224189758, + "covertype_test_accuracy": 0.75789475440979, + "covertype_test_precision": 0.7590785026550293, + "covertype_test_recall": 0.75789475440979, + "covertype_test_f1-score": 0.7578895092010498, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.75789475440979 + }, + "10": { + "covertype_test_loss": 0.5453161597251892, + "covertype_test_accuracy": 0.7666666507720947, + "covertype_test_precision": 0.7650365829467773, + "covertype_test_recall": 0.7666666507720947, + "covertype_test_f1-score": 0.7656418085098267, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7666666507720947 + }, + "20": { + "covertype_test_loss": 0.5314991474151611, + "covertype_test_accuracy": 0.7712500095367432, + "covertype_test_precision": 0.7695368528366089, + "covertype_test_recall": 0.7712500095367432, + "covertype_test_f1-score": 0.7700415849685669, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7712500095367432 + }, + "50": { + "covertype_test_loss": 0.5382113456726074, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7583984732627869, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7564467191696167, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7549999952316284 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5696192622184754, + "std": 0.015551602809188055, + "n": 5, + "ci95": 0.019306769665641838 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7726999998092652, + "std": 0.012789649807283228, + "n": 5, + "ci95": 0.01587790184478932 + }, + "covertype_test_precision": { + "mean": 0.7758943557739257, + "std": 0.012050986524010467, + "n": 5, + "ci95": 0.014960877275322547 + }, + "covertype_test_recall": { + "mean": 0.7726999998092652, + "std": 0.012789649807283228, + "n": 5, + "ci95": 0.01587790184478932 + }, + "covertype_test_f1-score": { + "mean": 0.7719967246055603, + "std": 0.012216118757309066, + "n": 5, + "ci95": 0.015165883153609606 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7726999998092652, + "std": 0.012789649807283228, + "n": 5, + "ci95": 0.01587790184478932 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5506918907165528, + "std": 0.013566078846089636, + "n": 5, + "ci95": 0.01684181127572557 + }, + "covertype_test_accuracy": { + "mean": 0.778315794467926, + "std": 0.013477164873818951, + "n": 5, + "ci95": 0.016731427696376876 + }, + "covertype_test_precision": { + "mean": 0.7817978739738465, + "std": 0.013005222478527754, + "n": 5, + "ci95": 0.016145527758400374 + }, + "covertype_test_recall": { + "mean": 0.778315794467926, + "std": 0.013477164873818951, + "n": 5, + "ci95": 0.016731427696376876 + }, + "covertype_test_f1-score": { + "mean": 0.7777943968772888, + "std": 0.012977277624344401, + "n": 5, + "ci95": 0.01611083520164737 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.778315794467926, + "std": 0.013477164873818951, + "n": 5, + "ci95": 0.016731427696376876 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5277718424797058, + "std": 0.013827869057491247, + "n": 5, + "ci95": 0.017166814645105888 + }, + "covertype_test_accuracy": { + "mean": 0.7828888893127441, + "std": 0.011675926103399596, + "n": 5, + "ci95": 0.014495252912336975 + }, + "covertype_test_precision": { + "mean": 0.7853752732276916, + "std": 0.011624675613578198, + "n": 5, + "ci95": 0.014431627226009101 + }, + "covertype_test_recall": { + "mean": 0.7828888893127441, + "std": 0.011675926103399596, + "n": 5, + "ci95": 0.014495252912336975 + }, + "covertype_test_f1-score": { + "mean": 0.7821343064308166, + "std": 0.011264625320492097, + "n": 5, + "ci95": 0.01398463741010709 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7828888893127441, + "std": 0.011675926103399596, + "n": 5, + "ci95": 0.014495252912336975 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5089813828468323, + "std": 0.016757130285584388, + "n": 5, + "ci95": 0.020803389763130148 + }, + "covertype_test_accuracy": { + "mean": 0.7888749957084655, + "std": 0.012322169688246645, + "n": 5, + "ci95": 0.015297541666340462 + }, + "covertype_test_precision": { + "mean": 0.7909164786338806, + "std": 0.012357572305819827, + "n": 5, + "ci95": 0.015341492774881017 + }, + "covertype_test_recall": { + "mean": 0.7888749957084655, + "std": 0.012322169688246645, + "n": 5, + "ci95": 0.015297541666340462 + }, + "covertype_test_f1-score": { + "mean": 0.7880581140518188, + "std": 0.011964964256047672, + "n": 5, + "ci95": 0.014854083645492152 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7888749957084655, + "std": 0.012322169688246645, + "n": 5, + "ci95": 0.015297541666340462 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5003550529479981, + "std": 0.02811653120741044, + "n": 5, + "ci95": 0.034905687759565755 + }, + "covertype_test_accuracy": { + "mean": 0.7898000001907348, + "std": 0.02329592795951519, + "n": 5, + "ci95": 0.02892107783231301 + }, + "covertype_test_precision": { + "mean": 0.7930636167526245, + "std": 0.02152207650436736, + "n": 5, + "ci95": 0.02671890344001378 + }, + "covertype_test_recall": { + "mean": 0.7898000001907348, + "std": 0.02329592795951519, + "n": 5, + "ci95": 0.02892107783231301 + }, + "covertype_test_f1-score": { + "mean": 0.7894774436950683, + "std": 0.022237454197090865, + "n": 5, + "ci95": 0.02760701976518066 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7898000001907348, + "std": 0.02329592795951519, + "n": 5, + "ci95": 0.02892107783231301 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..6aa87991c4ad1ceb0d38e1cb4d6de531b90622c0 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f467e7a460eb89a631a4c493f005aa3621c877cf76db014f072607d55ac6a0f7 +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..825945f1dbf3ebf93ec5b5a52e7417988dc62bc2 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:84581f7d12b37339080c1cd5e7844d081c30fe96659b1d8de29c98af79ae8e66 +size 138240128 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..231ff3053507bb9446d1dc4723f7ac03b43612c0 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:5537497d4495cc376474b178a15385a5a34e274ca88b3760bf5df62ec960f9b1 +size 11507024 diff --git a/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/vtjepa_config.yaml b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..1f44e81f8755c0bfc8215a3058698767b67d6905 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_kl_sweep3_ebe7d90_v1/q7-gpu3-delay30-kl5e-8/pretrain/wjepa_joint/covertype/20260918_032538/vtjepa_config.yaml @@ -0,0 +1,131 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 25 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +predictive_target_detach: false +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 50 +vtjepa_kl_y_end_weight: 5.0e-08 +vtjepa_kl_y_start_epoch: 30 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_cov_proj65536_smoke_20260913/exit_code b/JEPA/artifacts/wjepa_cov_proj65536_smoke_20260913/exit_code new file mode 100644 index 0000000000000000000000000000000000000000..573541ac9702dd3969c9bc859d2b91ec1f7e6e56 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_proj65536_smoke_20260913/exit_code @@ -0,0 +1 @@ +0 diff --git a/JEPA/artifacts/wjepa_cov_proj65536_smoke_20260913/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_cov_proj65536_smoke_20260913/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..ecb1f4d2984de1bbf912404415ff83c0ab71fb6d --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_proj65536_smoke_20260913/paper_alignment_manifest.json @@ -0,0 +1,233 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "24a5f7b053228e6d774fcf9a09203ca2653b4b6812a56b21c2ac4d46211d2cb9", + "src/train_vtjepa.py": "9194547ac205199617bc0b4c8e3f2a14e6002a8d1b1feb6e8265ce4195a101f4", + "src/vtjepa.py": "3d11b290bc62128f969661cb5600129da45a5b6f1b9afb598350f026584f92d5", + "src/sliced_wasserstein.py": "dfde10ee75dc346c1fa9643b052710d2cc8b985546f25a7bcbf96567f1335db7" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": true, + "sw_include_marginals": true, + "sw_full_num_projections": 65536, + "sw_marginal_num_projections": 32768, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "2", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "1", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "2", + "--downstream_probe_patience", + "1", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "2", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "65536", + "--sw_marginal_num_projections", + "32768", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false", + "--subset_size", + "1024" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_cov_proj65536_smoke_20260913/run.log b/JEPA/artifacts/wjepa_cov_proj65536_smoke_20260913/run.log new file mode 100644 index 0000000000000000000000000000000000000000..b170ec0de87125dd6ed8079b34e8b4bc322b8e65 --- /dev/null +++ b/JEPA/artifacts/wjepa_cov_proj65536_smoke_20260913/run.log @@ -0,0 +1,1006 @@ +{ + "dataset": "covertype", + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "2", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "1", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "2", + "--downstream_probe_patience", + "1", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "2", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "65536", + "--sw_marginal_num_projections", + "32768", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false", + "--subset_size", + "1024" + ] +} +Not SLURM job. +╒══════════════════════════════════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ mock │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ activation_checkpointing │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 42 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 42 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_seed │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_seed │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ deterministic_mode │ warn │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pre_evaluation │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 512 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 2 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 2 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ improvement │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_val_cache_cadence │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ init_type │ trunc_normal │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_start_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_lr │ 0.0005 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 12 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_ipe_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_gradient_clipping │ 1.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_type_embedding │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_index_embedding │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dropout_prob │ 0.0015 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_hidden │ 64 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_feedforward │ 64 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_heads │ 8 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_layers │ 8 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_act_func │ relu │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_cadence │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_model │ linear_probe │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ n_cls_tokens │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_type │ transformer │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_layers │ 16 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_embed_dim │ 16 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_heads │ 4 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_p_dropout │ 0.002 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_activation │ relu │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_dim_feedforward │ 256 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_allow_overlap │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_ctx_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_ctx_share │ 0.35 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_trgt_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_trgt_share │ 0.6 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_preds │ 4 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_encs │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mu_init_std │ 0.03 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_std │ 0.005 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_bias │ -4.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_x_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_y_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_evaluation_epochs │ 2 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_probe_patience │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_representation_type │ mean │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_encoder_type │ target_posterior │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_target_posterior │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_auxiliary_encoder │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_end_weight │ 1e-05 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_annealing_epochs │ 20 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_x_weight │ 0.001 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_y_weight │ 0.5 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ jepa_objective │ w_jepa_joint │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_full_num_projections │ 65536 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_marginal_num_projections │ 32768 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_p │ 2 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_include_marginals │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_x_weight │ 0.00075 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_z_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_y_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_end_weight │ 0.001875 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ safe_exit │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_selection │ filtered_20 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sigma_aggregation │ mean │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ subset_size │ 1024 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ is_batchlearning │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ iteration │ 0 │ +╘══════════════════════════════════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ + +CUDA Device Information: +CUDA_VISIBLE_DEVICES: 2 +Number of CUDA devices: 1 +Current CUDA device: 0 +CUDA device name: NVIDIA A100-SXM4-80GB + +Using device: cuda:0 +Device name: NVIDIA A100-SXM4-80GB +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +VariationalTJEPA parameters: ++-------------------------+---------+ +| Parameter | Value | ++=========================+=========+ +| hidden_dim | 64 | ++-------------------------+---------+ +| num_layers | 8 | ++-------------------------+---------+ +| num_heads | 8 | ++-------------------------+---------+ +| p_dropout | 0.0015 | ++-------------------------+---------+ +| layer_norm_eps | 1e-05 | ++-------------------------+---------+ +| feature_type_embedding | True | ++-------------------------+---------+ +| feature_index_embedding | True | ++-------------------------+---------+ +| dim_feedforward | 64 | ++-------------------------+---------+ +| use_reg_token | True | ++-------------------------+---------+ +| gradient_clipping | 1.0 | ++-------------------------+---------+ +| activation | gelu | ++-------------------------+---------+ +| num_features | 54 | ++-------------------------+---------+ +| n_cls_tokens | 1 | ++-------------------------+---------+ +MaskCollator params: +----------------- ----- +Allow overlap False +Min context share 0.15 +Max context share 0.35 +Min target share 0.15 +Max target share 0.6 +Min context 8 +Max context 18 +Min target 8 +Max target 32 +Num preds 4 +Num encs 1 +Num features 54 +Cardinalities [] +Base mask seed 0 +----------------- ----- +KL-x annealing: start=0.0 for 2 steps, then anneal to 1e-06 over 4 steps. +KL-z annealing: start=0.0 for 2 steps, then anneal to 1e-05 over 4 steps. +KL-y annealing: start=0.0 for 2 steps, then anneal to 1e-06 over 4 steps. +W-JEPA marginal-scale annealing (s_x): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (z): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (s_y): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +Configuration saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_proj65536_smoke_20260913/wjepa_joint/covertype/20260913_155656/vtjepa_config.yaml +All results will be saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_cov_proj65536_smoke_20260913/wjepa_joint/covertype/20260913_155656 +[VTJEPA] Running downstream probe before training begins +Using full dataset for embedding generation: covertype +Generating embedding using: TargetPosteriorEncoder on full dataset + 0%| | 0/2 [00:00= 15) +[VTJEPA] Early stopping triggered at epoch 116 + Best downstream validation score: 0.760000 at epoch 85 + No improvement for 15 probe evaluations +Restored best downstream-selected checkpoint from epoch 85. +Training completed. +[2026-09-17T17:40:08+00:00] tag=queue0-gpu2-kl0 dataset=covertype starting downstream models=mlp,dcnv2,resnet,autoint,fttransformer,xgboost +[Config] Loaded sigma_aggregation=mean from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_config.yaml +[Config] Loaded training data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_config.yaml +Split statistics: + val: 999 samples + test: 2000 samples + train: 7001 samples +Running downstream for dataset 'covertype', model 'mlp'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp0du5uh1_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp0du5uh1_/output_0.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp0du5uh1_/output_0.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp0du5uh1_/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 132.08it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.6946946978569031 │ +│ covertype_val_f1-score │ 0.6898654699325562 │ +│ covertype_val_loss │ 0.7203963398933411 │ +│ covertype_val_precision │ 0.7130241990089417 │ +│ covertype_val_recall │ 0.6946946978569031 │ +│ covertype_val_score │ 0.6946946978569031 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 300.14it/s +Validation metrics: [{'covertype_val_loss': 0.7203963398933411, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.6946946978569031, 'covertype_val_precision': 0.7130241990089417, 'covertype_val_recall': 0.6946946978569031, 'covertype_val_f1-score': 0.6898654699325562, 'covertype_val_support': 999.0, 'covertype_val_score': 0.6946946978569031}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 807 samples (40.35%) + Class 2: 907 samples (45.35%) + Class 3: 83 samples (4.15%) + Class 4: 147 samples (7.35%) + Class 5: 48 samples (2.40%) + Class 6: 8 samples (0.40%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6980000138282776 │ +│ covertype_test_f1-score │ 0.6919490694999695 │ +│ covertype_test_loss │ 0.7010678648948669 │ +│ covertype_test_precision │ 0.7064462900161743 │ +│ covertype_test_recall │ 0.6980000138282776 │ +│ covertype_test_score │ 0.6980000138282776 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 540.81it/s +Test metrics: [{'covertype_test_loss': 0.7010678648948669, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6980000138282776, 'covertype_test_precision': 0.7064462900161743, 'covertype_test_recall': 0.6980000138282776, 'covertype_test_f1-score': 0.6919490694999695, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6980000138282776}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 805 samples (42.37%) + Class 2: 906 samples (47.68%) + Class 3: 79 samples (4.16%) + Class 4: 73 samples (3.84%) + Class 5: 36 samples (1.89%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7068 +covertype_test_precision 5% removed: 0.7155 +covertype_test_recall 5% removed: 0.7068 +covertype_test_f1-score 5% removed: 0.7015 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 789 samples (43.83%) + Class 2: 892 samples (49.56%) + Class 3: 78 samples (4.33%) + Class 4: 18 samples (1.00%) + Class 5: 22 samples (1.22%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7133 +covertype_test_precision 10% removed: 0.7218 +covertype_test_recall 10% removed: 0.7133 +covertype_test_f1-score 10% removed: 0.7081 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 1: 723 samples (45.19%) + Class 2: 793 samples (49.56%) + Class 3: 70 samples (4.38%) + Class 4: 4 samples (0.25%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7200 +covertype_test_precision 20% removed: 0.7251 +covertype_test_recall 20% removed: 0.7200 +covertype_test_f1-score 20% removed: 0.7141 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 1: 457 samples (45.70%) + Class 2: 521 samples (52.10%) + Class 3: 22 samples (2.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7340 +covertype_test_precision 50% removed: 0.7414 +covertype_test_recall 50% removed: 0.7340 +covertype_test_f1-score 50% removed: 0.7306 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp0du5uh1_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp0du5uh1_/output_1.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp0du5uh1_/output_1.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp0du5uh1_/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 47/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 153.09it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7377377152442932 │ +│ covertype_val_f1-score │ 0.729992687702179 │ +│ covertype_val_loss │ 0.6403138637542725 │ +│ covertype_val_precision │ 0.7306504249572754 │ +│ covertype_val_recall │ 0.7377377152442932 │ +│ covertype_val_score │ 0.7377377152442932 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 516.46it/s +Validation metrics: [{'covertype_val_loss': 0.6403138637542725, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7377377152442932, 'covertype_val_precision': 0.7306504249572754, 'covertype_val_recall': 0.7377377152442932, 'covertype_val_f1-score': 0.729992687702179, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7377377152442932}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 2 samples (0.10%) + Class 1: 1027 samples (51.35%) + Class 2: 730 samples (36.50%) + Class 3: 40 samples (2.00%) + Class 4: 175 samples (8.75%) + Class 5: 25 samples (1.25%) + Class 6: 1 samples (0.05%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7200000286102295 │ +│ covertype_test_f1-score │ 0.7095126509666443 │ +│ covertype_test_loss │ 0.6363108158111572 │ +│ covertype_test_precision │ 0.7114759087562561 │ +│ covertype_test_recall │ 0.7200000286102295 │ +│ covertype_test_score │ 0.7200000286102295 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 537.37it/s +Test metrics: [{'covertype_test_loss': 0.6363108158111572, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7200000286102295, 'covertype_test_precision': 0.7114759087562561, 'covertype_test_recall': 0.7200000286102295, 'covertype_test_f1-score': 0.7095126509666443, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7200000286102295}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1025 samples (53.95%) + Class 2: 728 samples (38.32%) + Class 3: 37 samples (1.95%) + Class 4: 85 samples (4.47%) + Class 5: 24 samples (1.26%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7321 +covertype_test_precision 5% removed: 0.7217 +covertype_test_recall 5% removed: 0.7321 +covertype_test_f1-score 5% removed: 0.7240 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 1006 samples (55.89%) + Class 2: 718 samples (39.89%) + Class 3: 36 samples (2.00%) + Class 4: 21 samples (1.17%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7394 +covertype_test_precision 10% removed: 0.7290 +covertype_test_recall 10% removed: 0.7394 +covertype_test_f1-score 10% removed: 0.7323 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 1: 922 samples (57.63%) + Class 2: 635 samples (39.69%) + Class 3: 30 samples (1.88%) + Class 4: 5 samples (0.31%) + Class 5: 8 samples (0.50%) +============================================================ +covertype_test_accuracy 20% removed: 0.7431 +covertype_test_precision 20% removed: 0.7308 +covertype_test_recall 20% removed: 0.7431 +covertype_test_f1-score 20% removed: 0.7344 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 1: 591 samples (59.10%) + Class 2: 406 samples (40.60%) + Class 3: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7610 +covertype_test_precision 50% removed: 0.7481 +covertype_test_recall 50% removed: 0.7610 +covertype_test_f1-score 50% removed: 0.7519 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp0du5uh1_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp0du5uh1_/output_2.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp0du5uh1_/output_2.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp0du5uh1_/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 38/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 143.34it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7357357144355774 │ +│ covertype_val_f1-score │ 0.7154326438903809 │ +│ covertype_val_loss │ 0.6397638916969299 │ +│ covertype_val_precision │ 0.7009667754173279 │ +│ covertype_val_recall │ 0.7357357144355774 │ +│ covertype_val_score │ 0.7357357144355774 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 476.54it/s +Validation metrics: [{'covertype_val_loss': 0.6397638916969299, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7357357144355774, 'covertype_val_precision': 0.7009667754173279, 'covertype_val_recall': 0.7357357144355774, 'covertype_val_f1-score': 0.7154326438903809, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7357357144355774}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1075 samples (53.75%) + Class 2: 718 samples (35.90%) + Class 3: 43 samples (2.15%) + Class 4: 161 samples (8.05%) + Class 5: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7260000109672546 │ +│ covertype_test_f1-score │ 0.7084657549858093 │ +│ covertype_test_loss │ 0.643039345741272 │ +│ covertype_test_precision │ 0.7143128514289856 │ +│ covertype_test_recall │ 0.7260000109672546 │ +│ covertype_test_score │ 0.7260000109672546 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 493.10it/s +Test metrics: [{'covertype_test_loss': 0.643039345741272, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7260000109672546, 'covertype_test_precision': 0.7143128514289856, 'covertype_test_recall': 0.7260000109672546, 'covertype_test_f1-score': 0.7084657549858093, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7260000109672546}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1057 samples (55.63%) + Class 2: 717 samples (37.74%) + Class 3: 39 samples (2.05%) + Class 4: 84 samples (4.42%) + Class 5: 3 samples (0.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.7342 +covertype_test_precision 5% removed: 0.7221 +covertype_test_recall 5% removed: 0.7342 +covertype_test_f1-score 5% removed: 0.7210 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 1035 samples (57.50%) + Class 2: 707 samples (39.28%) + Class 3: 38 samples (2.11%) + Class 4: 18 samples (1.00%) + Class 5: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7417 +covertype_test_precision 10% removed: 0.7277 +covertype_test_recall 10% removed: 0.7417 +covertype_test_f1-score 10% removed: 0.7308 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 1: 934 samples (58.38%) + Class 2: 627 samples (39.19%) + Class 3: 33 samples (2.06%) + Class 4: 4 samples (0.25%) + Class 5: 2 samples (0.12%) +============================================================ +covertype_test_accuracy 20% removed: 0.7469 +covertype_test_precision 20% removed: 0.7329 +covertype_test_recall 20% removed: 0.7469 +covertype_test_f1-score 20% removed: 0.7366 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 1: 590 samples (59.00%) + Class 2: 405 samples (40.50%) + Class 3: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7660 +covertype_test_precision 50% removed: 0.7528 +covertype_test_recall 50% removed: 0.7660 +covertype_test_f1-score 50% removed: 0.7577 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp0du5uh1_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp0du5uh1_/output_3.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp0du5uh1_/output_3.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp0du5uh1_/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 163.60it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7317317128181458 │ +│ covertype_val_f1-score │ 0.7233251929283142 │ +│ covertype_val_loss │ 0.6386080980300903 │ +│ covertype_val_precision │ 0.7366568446159363 │ +│ covertype_val_recall │ 0.7317317128181458 │ +│ covertype_val_score │ 0.7317317128181458 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 491.37it/s +Validation metrics: [{'covertype_val_loss': 0.6386080980300903, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7317317128181458, 'covertype_val_precision': 0.7366568446159363, 'covertype_val_recall': 0.7317317128181458, 'covertype_val_f1-score': 0.7233251929283142, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7317317128181458}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 9 samples (0.45%) + Class 1: 947 samples (47.35%) + Class 2: 820 samples (41.00%) + Class 3: 61 samples (3.05%) + Class 4: 147 samples (7.35%) + Class 5: 14 samples (0.70%) + Class 6: 2 samples (0.10%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7304999828338623 │ +│ covertype_test_f1-score │ 0.7218170166015625 │ +│ covertype_test_loss │ 0.6164740920066833 │ +│ covertype_test_precision │ 0.7322565913200378 │ +│ covertype_test_recall │ 0.7304999828338623 │ +│ covertype_test_score │ 0.7304999828338623 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 482.51it/s +Test metrics: [{'covertype_test_loss': 0.6164740920066833, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7304999828338623, 'covertype_test_precision': 0.7322565913200378, 'covertype_test_recall': 0.7304999828338623, 'covertype_test_f1-score': 0.7218170166015625, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7304999828338623}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 8 samples (0.42%) + Class 1: 925 samples (48.68%) + Class 2: 820 samples (43.16%) + Class 3: 56 samples (2.95%) + Class 4: 77 samples (4.05%) + Class 5: 12 samples (0.63%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7368 +covertype_test_precision 5% removed: 0.7366 +covertype_test_recall 5% removed: 0.7368 +covertype_test_f1-score 5% removed: 0.7310 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 8 samples (0.44%) + Class 1: 899 samples (49.94%) + Class 2: 810 samples (45.00%) + Class 3: 55 samples (3.06%) + Class 4: 18 samples (1.00%) + Class 5: 9 samples (0.50%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7433 +covertype_test_precision 10% removed: 0.7443 +covertype_test_recall 10% removed: 0.7433 +covertype_test_f1-score 10% removed: 0.7392 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 8 samples (0.50%) + Class 1: 812 samples (50.75%) + Class 2: 724 samples (45.25%) + Class 3: 47 samples (2.94%) + Class 4: 4 samples (0.25%) + Class 5: 5 samples (0.31%) +============================================================ +covertype_test_accuracy 20% removed: 0.7506 +covertype_test_precision 20% removed: 0.7507 +covertype_test_recall 20% removed: 0.7506 +covertype_test_f1-score 20% removed: 0.7463 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 1 samples (0.10%) + Class 1: 503 samples (50.30%) + Class 2: 486 samples (48.60%) + Class 3: 10 samples (1.00%) +============================================================ +covertype_test_accuracy 50% removed: 0.7630 +covertype_test_precision 50% removed: 0.7709 +covertype_test_recall 50% removed: 0.7630 +covertype_test_f1-score 50% removed: 0.7591 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp0du5uh1_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp0du5uh1_/output_4.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp0du5uh1_/output_4.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp0du5uh1_/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 31/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 99.52it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7417417168617249 │ +│ covertype_val_f1-score │ 0.7237012386322021 │ +│ covertype_val_loss │ 0.6466132998466492 │ +│ covertype_val_precision │ 0.7362890243530273 │ +│ covertype_val_recall │ 0.7417417168617249 │ +│ covertype_val_score │ 0.7417417168617249 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 233.86it/s +Validation metrics: [{'covertype_val_loss': 0.6466132998466492, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7417417168617249, 'covertype_val_precision': 0.7362890243530273, 'covertype_val_recall': 0.7417417168617249, 'covertype_val_f1-score': 0.7237012386322021, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7417417168617249}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1189 samples (59.45%) + Class 2: 618 samples (30.90%) + Class 3: 52 samples (2.60%) + Class 4: 139 samples (6.95%) + Class 5: 2 samples (0.10%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7129999995231628 │ +│ covertype_test_f1-score │ 0.6922091245651245 │ +│ covertype_test_loss │ 0.6467434167861938 │ +│ covertype_test_precision │ 0.6943984031677246 │ +│ covertype_test_recall │ 0.7129999995231628 │ +│ covertype_test_score │ 0.7129999995231628 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 418.86it/s +Test metrics: [{'covertype_test_loss': 0.6467434167861938, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7129999995231628, 'covertype_test_precision': 0.6943984031677246, 'covertype_test_recall': 0.7129999995231628, 'covertype_test_f1-score': 0.6922091245651245, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7129999995231628}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1160 samples (61.05%) + Class 2: 617 samples (32.47%) + Class 3: 48 samples (2.53%) + Class 4: 73 samples (3.84%) + Class 5: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7216 +covertype_test_precision 5% removed: 0.7052 +covertype_test_recall 5% removed: 0.7216 +covertype_test_f1-score 5% removed: 0.7052 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 1125 samples (62.50%) + Class 2: 607 samples (33.72%) + Class 3: 47 samples (2.61%) + Class 4: 20 samples (1.11%) + Class 5: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7261 +covertype_test_precision 10% removed: 0.7071 +covertype_test_recall 10% removed: 0.7261 +covertype_test_f1-score 10% removed: 0.7123 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 1: 1022 samples (63.88%) + Class 2: 531 samples (33.19%) + Class 3: 41 samples (2.56%) + Class 4: 5 samples (0.31%) + Class 5: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7281 +covertype_test_precision 20% removed: 0.7116 +covertype_test_recall 20% removed: 0.7281 +covertype_test_f1-score 20% removed: 0.7142 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 1: 667 samples (66.70%) + Class 2: 328 samples (32.80%) + Class 3: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7480 +covertype_test_precision 50% removed: 0.7421 +covertype_test_recall 50% removed: 0.7480 +covertype_test_f1-score 50% removed: 0.7349 +Wrote results for mlp on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/mlp_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7175±0.0158 5%: 0.7263±0.0153 10%: 0.7328±0.0159 20%: 0.7378±0.0163 50%: 0.7544±0.0165 +covertype_test_precision 0%: 0.7118±0.0171 5%: 0.7202±0.0142 10%: 0.7260±0.0167 20%: 0.7302±0.0176 50%: 0.7510±0.0149 +covertype_test_recall 0%: 0.7175±0.0158 5%: 0.7263±0.0153 10%: 0.7328±0.0159 20%: 0.7378±0.0163 50%: 0.7544±0.0165 +covertype_test_f1-score 0%: 0.7048±0.0158 5%: 0.7166±0.0157 10%: 0.7246±0.0168 20%: 0.7291±0.0179 50%: 0.7468±0.0164 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'dcnv2'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpwokonql_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpwokonql_/output_0.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpwokonql_/output_0.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpwokonql_/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 85.12it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7857857942581177 │ +│ covertype_val_f1-score │ 0.7824288010597229 │ +│ covertype_val_loss │ 0.5631105303764343 │ +│ covertype_val_precision │ 0.781997799873352 │ +│ covertype_val_recall │ 0.7857857942581177 │ +│ covertype_val_score │ 0.7857857942581177 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 464.22it/s +Validation metrics: [{'covertype_val_loss': 0.5631105303764343, 'lr': 0.0, 'covertype_val_accuracy': 0.7857857942581177, 'covertype_val_precision': 0.781997799873352, 'covertype_val_recall': 0.7857857942581177, 'covertype_val_f1-score': 0.7824288010597229, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7857857942581177}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 1020 samples (51.00%) + Class 2: 706 samples (35.30%) + Class 3: 61 samples (3.05%) + Class 4: 124 samples (6.20%) + Class 5: 65 samples (3.25%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7944999933242798 │ +│ covertype_test_f1-score │ 0.7934777736663818 │ +│ covertype_test_loss │ 0.5724681615829468 │ +│ covertype_test_precision │ 0.7939324975013733 │ +│ covertype_test_recall │ 0.7944999933242798 │ +│ covertype_test_score │ 0.7944999933242798 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 340.50it/s +Test metrics: [{'covertype_test_loss': 0.5724681615829468, 'lr': 0.0, 'covertype_test_accuracy': 0.7944999933242798, 'covertype_test_precision': 0.7939324975013733, 'covertype_test_recall': 0.7944999933242798, 'covertype_test_f1-score': 0.7934777736663818, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7944999933242798}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 1008 samples (53.05%) + Class 2: 704 samples (37.05%) + Class 3: 58 samples (3.05%) + Class 4: 62 samples (3.26%) + Class 5: 50 samples (2.63%) +============================================================ +covertype_test_accuracy 5% removed: 0.8011 +covertype_test_precision 5% removed: 0.7992 +covertype_test_recall 5% removed: 0.8011 +covertype_test_f1-score 5% removed: 0.7995 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 987 samples (54.83%) + Class 2: 692 samples (38.44%) + Class 3: 57 samples (3.17%) + Class 4: 23 samples (1.28%) + Class 5: 24 samples (1.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.8078 +covertype_test_precision 10% removed: 0.8058 +covertype_test_recall 10% removed: 0.8078 +covertype_test_f1-score 10% removed: 0.8060 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 896 samples (56.00%) + Class 2: 622 samples (38.88%) + Class 3: 48 samples (3.00%) + Class 4: 7 samples (0.44%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.8131 +covertype_test_precision 20% removed: 0.8106 +covertype_test_recall 20% removed: 0.8131 +covertype_test_f1-score 20% removed: 0.8107 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 558 samples (55.80%) + Class 2: 424 samples (42.40%) + Class 3: 11 samples (1.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8230 +covertype_test_precision 50% removed: 0.8208 +covertype_test_recall 50% removed: 0.8230 +covertype_test_f1-score 50% removed: 0.8210 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpwokonql_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpwokonql_/output_1.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpwokonql_/output_1.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpwokonql_/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 47/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 108.87it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7787787914276123 │ +│ covertype_val_f1-score │ 0.7715549468994141 │ +│ covertype_val_loss │ 0.5548800826072693 │ +│ covertype_val_precision │ 0.7693166136741638 │ +│ covertype_val_recall │ 0.7787787914276123 │ +│ covertype_val_score │ 0.7787787914276123 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 344.95it/s +Validation metrics: [{'covertype_val_loss': 0.5548800826072693, 'lr': 3.9426490729965735e-06, 'covertype_val_accuracy': 0.7787787914276123, 'covertype_val_precision': 0.7693166136741638, 'covertype_val_recall': 0.7787787914276123, 'covertype_val_f1-score': 0.7715549468994141, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7787787914276123}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 20 samples (1.00%) + Class 1: 1018 samples (50.90%) + Class 2: 717 samples (35.85%) + Class 3: 54 samples (2.70%) + Class 4: 139 samples (6.95%) + Class 5: 49 samples (2.45%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7875000238418579 │ +│ covertype_test_f1-score │ 0.7858139872550964 │ +│ covertype_test_loss │ 0.5672217011451721 │ +│ covertype_test_precision │ 0.7877731323242188 │ +│ covertype_test_recall │ 0.7875000238418579 │ +│ covertype_test_score │ 0.7875000238418579 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 389.74it/s +Test metrics: [{'covertype_test_loss': 0.5672217011451721, 'lr': 3.9426490729965735e-06, 'covertype_test_accuracy': 0.7875000238418579, 'covertype_test_precision': 0.7877731323242188, 'covertype_test_recall': 0.7875000238418579, 'covertype_test_f1-score': 0.7858139872550964, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7875000238418579}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 19 samples (1.00%) + Class 1: 1010 samples (53.16%) + Class 2: 715 samples (37.63%) + Class 3: 51 samples (2.68%) + Class 4: 64 samples (3.37%) + Class 5: 41 samples (2.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.7963 +covertype_test_precision 5% removed: 0.7943 +covertype_test_recall 5% removed: 0.7963 +covertype_test_f1-score 5% removed: 0.7946 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 989 samples (54.94%) + Class 2: 702 samples (39.00%) + Class 3: 50 samples (2.78%) + Class 4: 23 samples (1.28%) + Class 5: 19 samples (1.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.8028 +covertype_test_precision 10% removed: 0.8007 +covertype_test_recall 10% removed: 0.8028 +covertype_test_f1-score 10% removed: 0.8008 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 895 samples (55.94%) + Class 2: 629 samples (39.31%) + Class 3: 42 samples (2.62%) + Class 4: 10 samples (0.62%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.8037 +covertype_test_precision 20% removed: 0.8020 +covertype_test_recall 20% removed: 0.8037 +covertype_test_f1-score 20% removed: 0.8017 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 555 samples (55.50%) + Class 2: 430 samples (43.00%) + Class 3: 8 samples (0.80%) + Class 4: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8110 +covertype_test_precision 50% removed: 0.8104 +covertype_test_recall 50% removed: 0.8110 +covertype_test_f1-score 50% removed: 0.8091 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpwokonql_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpwokonql_/output_2.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpwokonql_/output_2.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpwokonql_/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 44/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 142.47it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.781781792640686 │ +│ covertype_val_f1-score │ 0.7770677208900452 │ +│ covertype_val_loss │ 0.5699179768562317 │ +│ covertype_val_precision │ 0.7749180793762207 │ +│ covertype_val_recall │ 0.781781792640686 │ +│ covertype_val_score │ 0.781781792640686 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 2.4471739379805513e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 374.90it/s +Validation metrics: [{'covertype_val_loss': 0.5699179768562317, 'lr': 2.4471739379805513e-05, 'covertype_val_accuracy': 0.781781792640686, 'covertype_val_precision': 0.7749180793762207, 'covertype_val_recall': 0.781781792640686, 'covertype_val_f1-score': 0.7770677208900452, 'covertype_val_support': 999.0, 'covertype_val_score': 0.781781792640686}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 1011 samples (50.55%) + Class 2: 722 samples (36.10%) + Class 3: 57 samples (2.85%) + Class 4: 129 samples (6.45%) + Class 5: 59 samples (2.95%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7910000085830688 │ +│ covertype_test_f1-score │ 0.78958660364151 │ +│ covertype_test_loss │ 0.5627843141555786 │ +│ covertype_test_precision │ 0.7907463312149048 │ +│ covertype_test_recall │ 0.7910000085830688 │ +│ covertype_test_score │ 0.7910000085830688 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 2.4471744836773723e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 309.20it/s +Test metrics: [{'covertype_test_loss': 0.5627843141555786, 'lr': 2.4471744836773723e-05, 'covertype_test_accuracy': 0.7910000085830688, 'covertype_test_precision': 0.7907463312149048, 'covertype_test_recall': 0.7910000085830688, 'covertype_test_f1-score': 0.78958660364151, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7910000085830688}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 1000 samples (52.63%) + Class 2: 720 samples (37.89%) + Class 3: 54 samples (2.84%) + Class 4: 64 samples (3.37%) + Class 5: 44 samples (2.32%) +============================================================ +covertype_test_accuracy 5% removed: 0.7984 +covertype_test_precision 5% removed: 0.7965 +covertype_test_recall 5% removed: 0.7984 +covertype_test_f1-score 5% removed: 0.7967 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 18 samples (1.00%) + Class 1: 980 samples (54.44%) + Class 2: 707 samples (39.28%) + Class 3: 53 samples (2.94%) + Class 4: 20 samples (1.11%) + Class 5: 22 samples (1.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.8056 +covertype_test_precision 10% removed: 0.8037 +covertype_test_recall 10% removed: 0.8056 +covertype_test_f1-score 10% removed: 0.8037 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 16 samples (1.00%) + Class 1: 885 samples (55.31%) + Class 2: 635 samples (39.69%) + Class 3: 45 samples (2.81%) + Class 4: 6 samples (0.38%) + Class 5: 13 samples (0.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.8062 +covertype_test_precision 20% removed: 0.8042 +covertype_test_recall 20% removed: 0.8062 +covertype_test_f1-score 20% removed: 0.8041 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 550 samples (55.00%) + Class 2: 433 samples (43.30%) + Class 3: 10 samples (1.00%) +============================================================ +covertype_test_accuracy 50% removed: 0.8180 +covertype_test_precision 50% removed: 0.8159 +covertype_test_recall 50% removed: 0.8180 +covertype_test_f1-score 50% removed: 0.8160 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpwokonql_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpwokonql_/output_3.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpwokonql_/output_3.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpwokonql_/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 46/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 84.24it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7797797918319702 │ +│ covertype_val_f1-score │ 0.7753358483314514 │ +│ covertype_val_loss │ 0.5489013195037842 │ +│ covertype_val_precision │ 0.7741147875785828 │ +│ covertype_val_recall │ 0.7797797918319702 │ +│ covertype_val_score │ 0.7797797918319702 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 204.53it/s +Validation metrics: [{'covertype_val_loss': 0.5489013195037842, 'lr': 8.856373824528418e-06, 'covertype_val_accuracy': 0.7797797918319702, 'covertype_val_precision': 0.7741147875785828, 'covertype_val_recall': 0.7797797918319702, 'covertype_val_f1-score': 0.7753358483314514, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7797797918319702}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1019 samples (50.95%) + Class 2: 718 samples (35.90%) + Class 3: 58 samples (2.90%) + Class 4: 124 samples (6.20%) + Class 5: 61 samples (3.05%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7929999828338623 │ +│ covertype_test_f1-score │ 0.7911635041236877 │ +│ covertype_test_loss │ 0.5482168197631836 │ +│ covertype_test_precision │ 0.7918200492858887 │ +│ covertype_test_recall │ 0.7929999828338623 │ +│ covertype_test_score │ 0.7929999828338623 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 217.60it/s +Test metrics: [{'covertype_test_loss': 0.5482168197631836, 'lr': 8.856373824528418e-06, 'covertype_test_accuracy': 0.7929999828338623, 'covertype_test_precision': 0.7918200492858887, 'covertype_test_recall': 0.7929999828338623, 'covertype_test_f1-score': 0.7911635041236877, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7929999828338623}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 16 samples (0.84%) + Class 1: 1005 samples (52.89%) + Class 2: 716 samples (37.68%) + Class 3: 55 samples (2.89%) + Class 4: 62 samples (3.26%) + Class 5: 46 samples (2.42%) +============================================================ +covertype_test_accuracy 5% removed: 0.8000 +covertype_test_precision 5% removed: 0.7974 +covertype_test_recall 5% removed: 0.8000 +covertype_test_f1-score 5% removed: 0.7979 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 984 samples (54.67%) + Class 2: 704 samples (39.11%) + Class 3: 54 samples (3.00%) + Class 4: 20 samples (1.11%) + Class 5: 23 samples (1.28%) +============================================================ +covertype_test_accuracy 10% removed: 0.8061 +covertype_test_precision 10% removed: 0.8042 +covertype_test_recall 10% removed: 0.8061 +covertype_test_f1-score 10% removed: 0.8039 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 889 samples (55.56%) + Class 2: 633 samples (39.56%) + Class 3: 45 samples (2.81%) + Class 4: 7 samples (0.44%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.8075 +covertype_test_precision 20% removed: 0.8047 +covertype_test_recall 20% removed: 0.8075 +covertype_test_f1-score 20% removed: 0.8050 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 552 samples (55.20%) + Class 2: 432 samples (43.20%) + Class 3: 8 samples (0.80%) + Class 4: 1 samples (0.10%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8160 +covertype_test_precision 50% removed: 0.8149 +covertype_test_recall 50% removed: 0.8160 +covertype_test_f1-score 50% removed: 0.8141 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpwokonql_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpwokonql_/output_4.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpwokonql_/output_4.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpwokonql_/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 134.92it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7747747898101807 │ +│ covertype_val_f1-score │ 0.7695013284683228 │ +│ covertype_val_loss │ 0.5815620422363281 │ +│ covertype_val_precision │ 0.7679494619369507 │ +│ covertype_val_recall │ 0.7747747898101807 │ +│ covertype_val_score │ 0.7747747898101807 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.866357686405536e-07 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 282.81it/s +Validation metrics: [{'covertype_val_loss': 0.5815620422363281, 'lr': 9.866357686405536e-07, 'covertype_val_accuracy': 0.7747747898101807, 'covertype_val_precision': 0.7679494619369507, 'covertype_val_recall': 0.7747747898101807, 'covertype_val_f1-score': 0.7695013284683228, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7747747898101807}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1016 samples (50.80%) + Class 2: 720 samples (36.00%) + Class 3: 59 samples (2.95%) + Class 4: 132 samples (6.60%) + Class 5: 54 samples (2.70%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7820000052452087 │ +│ covertype_test_f1-score │ 0.780073881149292 │ +│ covertype_test_loss │ 0.5569356679916382 │ +│ covertype_test_precision │ 0.7817760109901428 │ +│ covertype_test_recall │ 0.7820000052452087 │ +│ covertype_test_score │ 0.7820000052452087 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.866358823273913e-07 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 319.90it/s +Test metrics: [{'covertype_test_loss': 0.5569356679916382, 'lr': 9.866358823273913e-07, 'covertype_test_accuracy': 0.7820000052452087, 'covertype_test_precision': 0.7817760109901428, 'covertype_test_recall': 0.7820000052452087, 'covertype_test_f1-score': 0.780073881149292, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7820000052452087}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 1004 samples (52.84%) + Class 2: 718 samples (37.79%) + Class 3: 56 samples (2.95%) + Class 4: 66 samples (3.47%) + Class 5: 41 samples (2.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.7874 +covertype_test_precision 5% removed: 0.7857 +covertype_test_recall 5% removed: 0.7874 +covertype_test_f1-score 5% removed: 0.7855 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 985 samples (54.72%) + Class 2: 705 samples (39.17%) + Class 3: 55 samples (3.06%) + Class 4: 24 samples (1.33%) + Class 5: 16 samples (0.89%) +============================================================ +covertype_test_accuracy 10% removed: 0.7956 +covertype_test_precision 10% removed: 0.7932 +covertype_test_recall 10% removed: 0.7956 +covertype_test_f1-score 10% removed: 0.7933 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 891 samples (55.69%) + Class 2: 633 samples (39.56%) + Class 3: 46 samples (2.88%) + Class 4: 10 samples (0.62%) + Class 5: 6 samples (0.38%) +============================================================ +covertype_test_accuracy 20% removed: 0.7975 +covertype_test_precision 20% removed: 0.7953 +covertype_test_recall 20% removed: 0.7975 +covertype_test_f1-score 20% removed: 0.7950 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 549 samples (54.90%) + Class 2: 433 samples (43.30%) + Class 3: 10 samples (1.00%) +============================================================ +covertype_test_accuracy 50% removed: 0.8090 +covertype_test_precision 50% removed: 0.8073 +covertype_test_recall 50% removed: 0.8090 +covertype_test_f1-score 50% removed: 0.8075 +Wrote results for dcnv2 on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/dcnv2_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7896±0.0062 5%: 0.7966±0.0068 10%: 0.8036±0.0060 20%: 0.8056±0.0071 50%: 0.8154±0.0069 +covertype_test_precision 0%: 0.7892±0.0058 5%: 0.7946±0.0066 10%: 0.8015±0.0062 20%: 0.8033±0.0069 50%: 0.8139±0.0064 +covertype_test_recall 0%: 0.7896±0.0062 5%: 0.7966±0.0068 10%: 0.8036±0.0060 20%: 0.8056±0.0071 50%: 0.8154±0.0069 +covertype_test_f1-score 0%: 0.7880±0.0065 5%: 0.7948±0.0069 10%: 0.8015±0.0062 20%: 0.8033±0.0071 50%: 0.8135±0.0068 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'resnet'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpecb3zoi7/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpecb3zoi7/output_0.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpecb3zoi7/output_0.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpecb3zoi7/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 196.64it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.782782793045044 │ +│ covertype_val_f1-score │ 0.779575765132904 │ +│ covertype_val_loss │ 0.5730233788490295 │ +│ covertype_val_precision │ 0.7781936526298523 │ +│ covertype_val_recall │ 0.782782793045044 │ +│ covertype_val_score │ 0.782782793045044 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 460.17it/s +Validation metrics: [{'covertype_val_loss': 0.5730233788490295, 'lr': 0.0, 'covertype_val_accuracy': 0.782782793045044, 'covertype_val_precision': 0.7781936526298523, 'covertype_val_recall': 0.782782793045044, 'covertype_val_f1-score': 0.779575765132904, 'covertype_val_support': 999.0, 'covertype_val_score': 0.782782793045044}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 24 samples (1.20%) + Class 1: 1003 samples (50.15%) + Class 2: 714 samples (35.70%) + Class 3: 62 samples (3.10%) + Class 4: 127 samples (6.35%) + Class 5: 65 samples (3.25%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.784500002861023 │ +│ covertype_test_f1-score │ 0.7844268679618835 │ +│ covertype_test_loss │ 0.555957555770874 │ +│ covertype_test_precision │ 0.7854914665222168 │ +│ covertype_test_recall │ 0.784500002861023 │ +│ covertype_test_score │ 0.784500002861023 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 345.52it/s +Test metrics: [{'covertype_test_loss': 0.555957555770874, 'lr': 0.0, 'covertype_test_accuracy': 0.784500002861023, 'covertype_test_precision': 0.7854914665222168, 'covertype_test_recall': 0.784500002861023, 'covertype_test_f1-score': 0.7844268679618835, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.784500002861023}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 21 samples (1.11%) + Class 1: 994 samples (52.32%) + Class 2: 712 samples (37.47%) + Class 3: 59 samples (3.11%) + Class 4: 66 samples (3.47%) + Class 5: 47 samples (2.47%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7921 +covertype_test_precision 5% removed: 0.7938 +covertype_test_recall 5% removed: 0.7921 +covertype_test_f1-score 5% removed: 0.7920 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 21 samples (1.17%) + Class 1: 975 samples (54.17%) + Class 2: 700 samples (38.89%) + Class 3: 57 samples (3.17%) + Class 4: 24 samples (1.33%) + Class 5: 23 samples (1.28%) +============================================================ +covertype_test_accuracy 10% removed: 0.7994 +covertype_test_precision 10% removed: 0.7992 +covertype_test_recall 10% removed: 0.7994 +covertype_test_f1-score 10% removed: 0.7988 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 21 samples (1.31%) + Class 1: 882 samples (55.12%) + Class 2: 629 samples (39.31%) + Class 3: 49 samples (3.06%) + Class 4: 7 samples (0.44%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.8012 +covertype_test_precision 20% removed: 0.8002 +covertype_test_recall 20% removed: 0.8012 +covertype_test_f1-score 20% removed: 0.8002 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 11 samples (1.10%) + Class 1: 549 samples (54.90%) + Class 2: 424 samples (42.40%) + Class 3: 15 samples (1.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8040 +covertype_test_precision 50% removed: 0.8043 +covertype_test_recall 50% removed: 0.8040 +covertype_test_f1-score 50% removed: 0.8039 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpecb3zoi7/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpecb3zoi7/output_1.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpecb3zoi7/output_1.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpecb3zoi7/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 90.40it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7567567825317383 │ +│ covertype_val_f1-score │ 0.7491669654846191 │ +│ covertype_val_loss │ 0.6075770258903503 │ +│ covertype_val_precision │ 0.7470363974571228 │ +│ covertype_val_recall │ 0.7567567825317383 │ +│ covertype_val_score │ 0.7567567825317383 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 309.20it/s +Validation metrics: [{'covertype_val_loss': 0.6075770258903503, 'lr': 0.0, 'covertype_val_accuracy': 0.7567567825317383, 'covertype_val_precision': 0.7470363974571228, 'covertype_val_recall': 0.7567567825317383, 'covertype_val_f1-score': 0.7491669654846191, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7567567825317383}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 35 samples (1.75%) + Class 1: 1029 samples (51.45%) + Class 2: 725 samples (36.25%) + Class 3: 48 samples (2.40%) + Class 4: 121 samples (6.05%) + Class 5: 37 samples (1.85%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7850000262260437 │ +│ covertype_test_f1-score │ 0.7835671901702881 │ +│ covertype_test_loss │ 0.555845320224762 │ +│ covertype_test_precision │ 0.7861422300338745 │ +│ covertype_test_recall │ 0.7850000262260437 │ +│ covertype_test_score │ 0.7850000262260437 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 102.03it/s +Test metrics: [{'covertype_test_loss': 0.555845320224762, 'lr': 0.0, 'covertype_test_accuracy': 0.7850000262260437, 'covertype_test_precision': 0.7861422300338745, 'covertype_test_recall': 0.7850000262260437, 'covertype_test_f1-score': 0.7835671901702881, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7850000262260437}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 33 samples (1.74%) + Class 1: 1007 samples (53.00%) + Class 2: 723 samples (38.05%) + Class 3: 45 samples (2.37%) + Class 4: 64 samples (3.37%) + Class 5: 27 samples (1.42%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7900 +covertype_test_precision 5% removed: 0.7912 +covertype_test_recall 5% removed: 0.7900 +covertype_test_f1-score 5% removed: 0.7892 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 27 samples (1.50%) + Class 1: 982 samples (54.56%) + Class 2: 714 samples (39.67%) + Class 3: 43 samples (2.39%) + Class 4: 19 samples (1.06%) + Class 5: 15 samples (0.83%) +============================================================ +covertype_test_accuracy 10% removed: 0.7961 +covertype_test_precision 10% removed: 0.7950 +covertype_test_recall 10% removed: 0.7961 +covertype_test_f1-score 10% removed: 0.7944 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 22 samples (1.38%) + Class 1: 876 samples (54.75%) + Class 2: 648 samples (40.50%) + Class 3: 36 samples (2.25%) + Class 4: 9 samples (0.56%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7962 +covertype_test_precision 20% removed: 0.7958 +covertype_test_recall 20% removed: 0.7962 +covertype_test_f1-score 20% removed: 0.7951 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 561 samples (56.10%) + Class 2: 423 samples (42.30%) + Class 3: 4 samples (0.40%) + Class 4: 1 samples (0.10%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8080 +covertype_test_precision 50% removed: 0.8076 +covertype_test_recall 50% removed: 0.8080 +covertype_test_f1-score 50% removed: 0.8060 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpecb3zoi7/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpecb3zoi7/output_2.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpecb3zoi7/output_2.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpecb3zoi7/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 45/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 65.40it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7667667865753174 │ +│ covertype_val_f1-score │ 0.7637086510658264 │ +│ covertype_val_loss │ 0.5988559126853943 │ +│ covertype_val_precision │ 0.7668482661247253 │ +│ covertype_val_recall │ 0.7667667865753174 │ +│ covertype_val_score │ 0.7667667865753174 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 49.94it/s +Validation metrics: [{'covertype_val_loss': 0.5988559126853943, 'lr': 0.0, 'covertype_val_accuracy': 0.7667667865753174, 'covertype_val_precision': 0.7668482661247253, 'covertype_val_recall': 0.7667667865753174, 'covertype_val_f1-score': 0.7637086510658264, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7667667865753174}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 940 samples (47.00%) + Class 2: 799 samples (39.95%) + Class 3: 52 samples (2.60%) + Class 4: 131 samples (6.55%) + Class 5: 56 samples (2.80%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7699999809265137 │ +│ covertype_test_f1-score │ 0.7693984508514404 │ +│ covertype_test_loss │ 0.5677821040153503 │ +│ covertype_test_precision │ 0.7753030061721802 │ +│ covertype_test_recall │ 0.7699999809265137 │ +│ covertype_test_score │ 0.7699999809265137 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 92.73it/s +Test metrics: [{'covertype_test_loss': 0.5677821040153503, 'lr': 0.0, 'covertype_test_accuracy': 0.7699999809265137, 'covertype_test_precision': 0.7753030061721802, 'covertype_test_recall': 0.7699999809265137, 'covertype_test_f1-score': 0.7693984508514404, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7699999809265137}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 921 samples (48.47%) + Class 2: 796 samples (41.89%) + Class 3: 50 samples (2.63%) + Class 4: 71 samples (3.74%) + Class 5: 43 samples (2.26%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7753 +covertype_test_precision 5% removed: 0.7819 +covertype_test_recall 5% removed: 0.7753 +covertype_test_f1-score 5% removed: 0.7754 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 18 samples (1.00%) + Class 1: 899 samples (49.94%) + Class 2: 783 samples (43.50%) + Class 3: 49 samples (2.72%) + Class 4: 26 samples (1.44%) + Class 5: 24 samples (1.33%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7794 +covertype_test_precision 10% removed: 0.7852 +covertype_test_recall 10% removed: 0.7794 +covertype_test_f1-score 10% removed: 0.7798 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 18 samples (1.12%) + Class 1: 811 samples (50.69%) + Class 2: 707 samples (44.19%) + Class 3: 42 samples (2.62%) + Class 4: 11 samples (0.69%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7769 +covertype_test_precision 20% removed: 0.7811 +covertype_test_recall 20% removed: 0.7769 +covertype_test_f1-score 20% removed: 0.7769 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 512 samples (51.20%) + Class 2: 474 samples (47.40%) + Class 3: 7 samples (0.70%) +============================================================ +covertype_test_accuracy 50% removed: 0.7930 +covertype_test_precision 50% removed: 0.7954 +covertype_test_recall 50% removed: 0.7930 +covertype_test_f1-score 50% removed: 0.7915 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpecb3zoi7/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpecb3zoi7/output_3.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpecb3zoi7/output_3.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpecb3zoi7/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 71.50it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7767767906188965 │ +│ covertype_val_f1-score │ 0.773371696472168 │ +│ covertype_val_loss │ 0.584861695766449 │ +│ covertype_val_precision │ 0.7717776894569397 │ +│ covertype_val_recall │ 0.7767767906188965 │ +│ covertype_val_score │ 0.7767767906188965 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 60.90it/s +Validation metrics: [{'covertype_val_loss': 0.584861695766449, 'lr': 0.0, 'covertype_val_accuracy': 0.7767767906188965, 'covertype_val_precision': 0.7717776894569397, 'covertype_val_recall': 0.7767767906188965, 'covertype_val_f1-score': 0.773371696472168, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7767767906188965}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 21 samples (1.05%) + Class 1: 999 samples (49.95%) + Class 2: 732 samples (36.60%) + Class 3: 65 samples (3.25%) + Class 4: 124 samples (6.20%) + Class 5: 56 samples (2.80%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.781499981880188 │ +│ covertype_test_f1-score │ 0.7798671126365662 │ +│ covertype_test_loss │ 0.5756209492683411 │ +│ covertype_test_precision │ 0.7801694869995117 │ +│ covertype_test_recall │ 0.781499981880188 │ +│ covertype_test_score │ 0.781499981880188 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 173.71it/s +Test metrics: [{'covertype_test_loss': 0.5756209492683411, 'lr': 0.0, 'covertype_test_accuracy': 0.781499981880188, 'covertype_test_precision': 0.7801694869995117, 'covertype_test_recall': 0.781499981880188, 'covertype_test_f1-score': 0.7798671126365662, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.781499981880188}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 20 samples (1.05%) + Class 1: 987 samples (51.95%) + Class 2: 731 samples (38.47%) + Class 3: 61 samples (3.21%) + Class 4: 61 samples (3.21%) + Class 5: 40 samples (2.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7879 +covertype_test_precision 5% removed: 0.7847 +covertype_test_recall 5% removed: 0.7879 +covertype_test_f1-score 5% removed: 0.7859 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 966 samples (53.67%) + Class 2: 720 samples (40.00%) + Class 3: 59 samples (3.28%) + Class 4: 18 samples (1.00%) + Class 5: 21 samples (1.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7939 +covertype_test_precision 10% removed: 0.7917 +covertype_test_recall 10% removed: 0.7939 +covertype_test_f1-score 10% removed: 0.7916 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 870 samples (54.37%) + Class 2: 648 samples (40.50%) + Class 3: 51 samples (3.19%) + Class 4: 7 samples (0.44%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7975 +covertype_test_precision 20% removed: 0.7945 +covertype_test_recall 20% removed: 0.7975 +covertype_test_f1-score 20% removed: 0.7950 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 529 samples (52.90%) + Class 2: 449 samples (44.90%) + Class 3: 14 samples (1.40%) + Class 4: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8000 +covertype_test_precision 50% removed: 0.8012 +covertype_test_recall 50% removed: 0.8000 +covertype_test_f1-score 50% removed: 0.7994 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpecb3zoi7/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpecb3zoi7/output_4.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpecb3zoi7/output_4.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpecb3zoi7/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 99.59it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7507507801055908 │ +│ covertype_val_f1-score │ 0.7483058571815491 │ +│ covertype_val_loss │ 0.614602267742157 │ +│ covertype_val_precision │ 0.7466615438461304 │ +│ covertype_val_recall │ 0.7507507801055908 │ +│ covertype_val_score │ 0.7507507801055908 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 124.66it/s +Validation metrics: [{'covertype_val_loss': 0.614602267742157, 'lr': 0.0, 'covertype_val_accuracy': 0.7507507801055908, 'covertype_val_precision': 0.7466615438461304, 'covertype_val_recall': 0.7507507801055908, 'covertype_val_f1-score': 0.7483058571815491, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7507507801055908}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 31 samples (1.55%) + Class 1: 1014 samples (50.70%) + Class 2: 701 samples (35.05%) + Class 3: 64 samples (3.20%) + Class 4: 124 samples (6.20%) + Class 5: 62 samples (3.10%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7799999713897705 │ +│ covertype_test_f1-score │ 0.7800142765045166 │ +│ covertype_test_loss │ 0.588387668132782 │ +│ covertype_test_precision │ 0.7810855507850647 │ +│ covertype_test_recall │ 0.7799999713897705 │ +│ covertype_test_score │ 0.7799999713897705 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 173.23it/s +Test metrics: [{'covertype_test_loss': 0.588387668132782, 'lr': 0.0, 'covertype_test_accuracy': 0.7799999713897705, 'covertype_test_precision': 0.7810855507850647, 'covertype_test_recall': 0.7799999713897705, 'covertype_test_f1-score': 0.7800142765045166, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7799999713897705}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 30 samples (1.58%) + Class 1: 1004 samples (52.84%) + Class 2: 700 samples (36.84%) + Class 3: 60 samples (3.16%) + Class 4: 59 samples (3.11%) + Class 5: 45 samples (2.37%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7837 +covertype_test_precision 5% removed: 0.7845 +covertype_test_recall 5% removed: 0.7837 +covertype_test_f1-score 5% removed: 0.7838 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 984 samples (54.67%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 27 samples (1.50%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7894 +covertype_test_precision 10% removed: 0.7881 +covertype_test_recall 10% removed: 0.7894 +covertype_test_f1-score 10% removed: 0.7886 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 886 samples (55.38%) + Class 2: 621 samples (38.81%) + Class 3: 49 samples (3.06%) + Class 4: 15 samples (0.94%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7912 +covertype_test_precision 20% removed: 0.7903 +covertype_test_recall 20% removed: 0.7912 +covertype_test_f1-score 20% removed: 0.7904 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 555 samples (55.50%) + Class 2: 422 samples (42.20%) + Class 3: 13 samples (1.30%) + Class 4: 2 samples (0.20%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8010 +covertype_test_precision 50% removed: 0.8031 +covertype_test_recall 50% removed: 0.8010 +covertype_test_f1-score 50% removed: 0.8010 +Wrote results for resnet on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/resnet_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7802±0.0075 5%: 0.7858±0.0083 10%: 0.7917±0.0096 20%: 0.7926±0.0118 50%: 0.8012±0.0069 +covertype_test_precision 0%: 0.7816±0.0055 5%: 0.7872±0.0063 10%: 0.7918±0.0069 20%: 0.7924±0.0090 50%: 0.8023±0.0056 +covertype_test_recall 0%: 0.7802±0.0075 5%: 0.7858±0.0083 10%: 0.7917±0.0096 20%: 0.7926±0.0118 50%: 0.8012±0.0069 +covertype_test_f1-score 0%: 0.7795±0.0074 5%: 0.7853±0.0079 10%: 0.7907±0.0089 20%: 0.7915±0.0110 50%: 0.8003±0.0069 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'autoint'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpgjo_royl/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpgjo_royl/output_0.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpgjo_royl/output_0.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpgjo_royl/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 47/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 90.35it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7547547817230225 │ +│ covertype_val_f1-score │ 0.7504031658172607 │ +│ covertype_val_loss │ 0.6248536109924316 │ +│ covertype_val_precision │ 0.7511715292930603 │ +│ covertype_val_recall │ 0.7547547817230225 │ +│ covertype_val_score │ 0.7547547817230225 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 221.99it/s +Validation metrics: [{'covertype_val_loss': 0.6248536109924316, 'lr': 3.9426490729965735e-06, 'covertype_val_accuracy': 0.7547547817230225, 'covertype_val_precision': 0.7511715292930603, 'covertype_val_recall': 0.7547547817230225, 'covertype_val_f1-score': 0.7504031658172607, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7547547817230225}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1005 samples (50.25%) + Class 2: 729 samples (36.45%) + Class 3: 54 samples (2.70%) + Class 4: 130 samples (6.50%) + Class 5: 59 samples (2.95%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.762499988079071 │ +│ covertype_test_f1-score │ 0.7610217332839966 │ +│ covertype_test_loss │ 0.5850175023078918 │ +│ covertype_test_precision │ 0.7619391679763794 │ +│ covertype_test_recall │ 0.762499988079071 │ +│ covertype_test_score │ 0.762499988079071 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 217.25it/s +Test metrics: [{'covertype_test_loss': 0.5850175023078918, 'lr': 3.9426490729965735e-06, 'covertype_test_accuracy': 0.762499988079071, 'covertype_test_precision': 0.7619391679763794, 'covertype_test_recall': 0.762499988079071, 'covertype_test_f1-score': 0.7610217332839966, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.762499988079071}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 16 samples (0.84%) + Class 1: 993 samples (52.26%) + Class 2: 728 samples (38.32%) + Class 3: 50 samples (2.63%) + Class 4: 64 samples (3.37%) + Class 5: 47 samples (2.47%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7674 +covertype_test_precision 5% removed: 0.7672 +covertype_test_recall 5% removed: 0.7674 +covertype_test_f1-score 5% removed: 0.7661 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 971 samples (53.94%) + Class 2: 719 samples (39.94%) + Class 3: 49 samples (2.72%) + Class 4: 22 samples (1.22%) + Class 5: 22 samples (1.22%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7717 +covertype_test_precision 10% removed: 0.7703 +covertype_test_recall 10% removed: 0.7717 +covertype_test_f1-score 10% removed: 0.7699 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 883 samples (55.19%) + Class 2: 647 samples (40.44%) + Class 3: 40 samples (2.50%) + Class 4: 5 samples (0.31%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7750 +covertype_test_precision 20% removed: 0.7732 +covertype_test_recall 20% removed: 0.7750 +covertype_test_f1-score 20% removed: 0.7723 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 554 samples (55.40%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7810 +covertype_test_precision 50% removed: 0.7784 +covertype_test_recall 50% removed: 0.7810 +covertype_test_f1-score 50% removed: 0.7792 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpgjo_royl/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpgjo_royl/output_1.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpgjo_royl/output_1.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpgjo_royl/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 41/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 34.58it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7547547817230225 │ +│ covertype_val_f1-score │ 0.7512263655662537 │ +│ covertype_val_loss │ 0.6277594566345215 │ +│ covertype_val_precision │ 0.755271852016449 │ +│ covertype_val_recall │ 0.7547547817230225 │ +│ covertype_val_score │ 0.7547547817230225 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 6.18466583546251e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 111.83it/s +Validation metrics: [{'covertype_val_loss': 0.6277594566345215, 'lr': 6.18466583546251e-05, 'covertype_val_accuracy': 0.7547547817230225, 'covertype_val_precision': 0.755271852016449, 'covertype_val_recall': 0.7547547817230225, 'covertype_val_f1-score': 0.7512263655662537, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7547547817230225}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 12 samples (0.60%) + Class 1: 941 samples (47.05%) + Class 2: 795 samples (39.75%) + Class 3: 55 samples (2.75%) + Class 4: 132 samples (6.60%) + Class 5: 63 samples (3.15%) + Class 6: 2 samples (0.10%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7559999823570251 │ +│ covertype_test_f1-score │ 0.7542351484298706 │ +│ covertype_test_loss │ 0.6104514002799988 │ +│ covertype_test_precision │ 0.760047972202301 │ +│ covertype_test_recall │ 0.7559999823570251 │ +│ covertype_test_score │ 0.7559999823570251 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 6.184667290654033e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 87.48it/s +Test metrics: [{'covertype_test_loss': 0.6104514002799988, 'lr': 6.184667290654033e-05, 'covertype_test_accuracy': 0.7559999823570251, 'covertype_test_precision': 0.760047972202301, 'covertype_test_recall': 0.7559999823570251, 'covertype_test_f1-score': 0.7542351484298706, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7559999823570251}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 11 samples (0.58%) + Class 1: 929 samples (48.89%) + Class 2: 793 samples (41.74%) + Class 3: 52 samples (2.74%) + Class 4: 63 samples (3.32%) + Class 5: 52 samples (2.74%) +============================================================ +covertype_test_accuracy 5% removed: 0.7632 +covertype_test_precision 5% removed: 0.7664 +covertype_test_recall 5% removed: 0.7632 +covertype_test_f1-score 5% removed: 0.7615 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 11 samples (0.61%) + Class 1: 912 samples (50.67%) + Class 2: 779 samples (43.28%) + Class 3: 51 samples (2.83%) + Class 4: 21 samples (1.17%) + Class 5: 26 samples (1.44%) +============================================================ +covertype_test_accuracy 10% removed: 0.7700 +covertype_test_precision 10% removed: 0.7726 +covertype_test_recall 10% removed: 0.7700 +covertype_test_f1-score 10% removed: 0.7681 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 834 samples (52.12%) + Class 2: 694 samples (43.38%) + Class 3: 43 samples (2.69%) + Class 4: 3 samples (0.19%) + Class 5: 15 samples (0.94%) +============================================================ +covertype_test_accuracy 20% removed: 0.7781 +covertype_test_precision 20% removed: 0.7791 +covertype_test_recall 20% removed: 0.7781 +covertype_test_f1-score 20% removed: 0.7752 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 527 samples (52.70%) + Class 2: 454 samples (45.40%) + Class 3: 11 samples (1.10%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8000 +covertype_test_precision 50% removed: 0.8000 +covertype_test_recall 50% removed: 0.8000 +covertype_test_f1-score 50% removed: 0.7988 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpgjo_royl/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpgjo_royl/output_2.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpgjo_royl/output_2.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpgjo_royl/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 45/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 51.57it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7567567825317383 │ +│ covertype_val_f1-score │ 0.7541046142578125 │ +│ covertype_val_loss │ 0.6140923500061035 │ +│ covertype_val_precision │ 0.7548018097877502 │ +│ covertype_val_recall │ 0.7567567825317383 │ +│ covertype_val_score │ 0.7567567825317383 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 1.5708421415183693e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 37.64it/s +Validation metrics: [{'covertype_val_loss': 0.6140923500061035, 'lr': 1.5708421415183693e-05, 'covertype_val_accuracy': 0.7567567825317383, 'covertype_val_precision': 0.7548018097877502, 'covertype_val_recall': 0.7567567825317383, 'covertype_val_f1-score': 0.7541046142578125, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7567567825317383}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 27 samples (1.35%) + Class 1: 980 samples (49.00%) + Class 2: 753 samples (37.65%) + Class 3: 56 samples (2.80%) + Class 4: 113 samples (5.65%) + Class 5: 68 samples (3.40%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7570000290870667 │ +│ covertype_test_f1-score │ 0.7569879293441772 │ +│ covertype_test_loss │ 0.5952626466751099 │ +│ covertype_test_precision │ 0.758921205997467 │ +│ covertype_test_recall │ 0.7570000290870667 │ +│ covertype_test_score │ 0.7570000290870667 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 1.5708415958215483e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 47.29it/s +Test metrics: [{'covertype_test_loss': 0.5952626466751099, 'lr': 1.5708415958215483e-05, 'covertype_test_accuracy': 0.7570000290870667, 'covertype_test_precision': 0.758921205997467, 'covertype_test_recall': 0.7570000290870667, 'covertype_test_f1-score': 0.7569879293441772, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7570000290870667}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 26 samples (1.37%) + Class 1: 964 samples (50.74%) + Class 2: 751 samples (39.53%) + Class 3: 53 samples (2.79%) + Class 4: 59 samples (3.11%) + Class 5: 47 samples (2.47%) +============================================================ +covertype_test_accuracy 5% removed: 0.7605 +covertype_test_precision 5% removed: 0.7616 +covertype_test_recall 5% removed: 0.7605 +covertype_test_f1-score 5% removed: 0.7604 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 23 samples (1.28%) + Class 1: 940 samples (52.22%) + Class 2: 741 samples (41.17%) + Class 3: 51 samples (2.83%) + Class 4: 23 samples (1.28%) + Class 5: 22 samples (1.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.7656 +covertype_test_precision 10% removed: 0.7666 +covertype_test_recall 10% removed: 0.7656 +covertype_test_f1-score 10% removed: 0.7653 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 855 samples (53.44%) + Class 2: 665 samples (41.56%) + Class 3: 42 samples (2.62%) + Class 4: 7 samples (0.44%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7681 +covertype_test_precision 20% removed: 0.7677 +covertype_test_recall 20% removed: 0.7681 +covertype_test_f1-score 20% removed: 0.7671 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 11 samples (1.10%) + Class 1: 528 samples (52.80%) + Class 2: 449 samples (44.90%) + Class 3: 10 samples (1.00%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7820 +covertype_test_precision 50% removed: 0.7832 +covertype_test_recall 50% removed: 0.7820 +covertype_test_f1-score 50% removed: 0.7821 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpgjo_royl/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpgjo_royl/output_3.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpgjo_royl/output_3.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpgjo_royl/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 37/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 93.17it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7547547817230225 │ +│ covertype_val_f1-score │ 0.7514937520027161 │ +│ covertype_val_loss │ 0.6271417140960693 │ +│ covertype_val_precision │ 0.7581850290298462 │ +│ covertype_val_recall │ 0.7547547817230225 │ +│ covertype_val_score │ 0.7547547817230225 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.00013551570009440184 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 74.09it/s +Validation metrics: [{'covertype_val_loss': 0.6271417140960693, 'lr': 0.00013551570009440184, 'covertype_val_accuracy': 0.7547547817230225, 'covertype_val_precision': 0.7581850290298462, 'covertype_val_recall': 0.7547547817230225, 'covertype_val_f1-score': 0.7514937520027161, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7547547817230225}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 13 samples (0.65%) + Class 1: 977 samples (48.85%) + Class 2: 781 samples (39.05%) + Class 3: 25 samples (1.25%) + Class 4: 122 samples (6.10%) + Class 5: 77 samples (3.85%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7480000257492065 │ +│ covertype_test_f1-score │ 0.745179295539856 │ +│ covertype_test_loss │ 0.5975548028945923 │ +│ covertype_test_precision │ 0.7547934055328369 │ +│ covertype_test_recall │ 0.7480000257492065 │ +│ covertype_test_score │ 0.7480000257492065 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0001355156855424866 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 79.65it/s +Test metrics: [{'covertype_test_loss': 0.5975548028945923, 'lr': 0.0001355156855424866, 'covertype_test_accuracy': 0.7480000257492065, 'covertype_test_precision': 0.7547934055328369, 'covertype_test_recall': 0.7480000257492065, 'covertype_test_f1-score': 0.745179295539856, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7480000257492065}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 12 samples (0.63%) + Class 1: 970 samples (51.05%) + Class 2: 779 samples (41.00%) + Class 3: 22 samples (1.16%) + Class 4: 54 samples (2.84%) + Class 5: 63 samples (3.32%) +============================================================ +covertype_test_accuracy 5% removed: 0.7558 +covertype_test_precision 5% removed: 0.7626 +covertype_test_recall 5% removed: 0.7558 +covertype_test_f1-score 5% removed: 0.7520 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 11 samples (0.61%) + Class 1: 952 samples (52.89%) + Class 2: 769 samples (42.72%) + Class 3: 21 samples (1.17%) + Class 4: 17 samples (0.94%) + Class 5: 30 samples (1.67%) +============================================================ +covertype_test_accuracy 10% removed: 0.7628 +covertype_test_precision 10% removed: 0.7695 +covertype_test_recall 10% removed: 0.7628 +covertype_test_f1-score 10% removed: 0.7583 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 873 samples (54.56%) + Class 2: 687 samples (42.94%) + Class 3: 16 samples (1.00%) + Class 4: 4 samples (0.25%) + Class 5: 13 samples (0.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.7719 +covertype_test_precision 20% removed: 0.7767 +covertype_test_recall 20% removed: 0.7719 +covertype_test_f1-score 20% removed: 0.7648 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 546 samples (54.60%) + Class 2: 449 samples (44.90%) + Class 3: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7830 +covertype_test_precision 50% removed: 0.7877 +covertype_test_recall 50% removed: 0.7830 +covertype_test_f1-score 50% removed: 0.7777 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpgjo_royl/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpgjo_royl/output_4.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpgjo_royl/output_4.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpgjo_royl/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 46/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 67.97it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7557557821273804 │ +│ covertype_val_f1-score │ 0.7533409595489502 │ +│ covertype_val_loss │ 0.6112266778945923 │ +│ covertype_val_precision │ 0.7531107664108276 │ +│ covertype_val_recall │ 0.7557557821273804 │ +│ covertype_val_score │ 0.7557557821273804 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 141.92it/s +Validation metrics: [{'covertype_val_loss': 0.6112266778945923, 'lr': 8.856373824528418e-06, 'covertype_val_accuracy': 0.7557557821273804, 'covertype_val_precision': 0.7531107664108276, 'covertype_val_recall': 0.7557557821273804, 'covertype_val_f1-score': 0.7533409595489502, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7557557821273804}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 11 samples (0.55%) + Class 1: 1001 samples (50.05%) + Class 2: 730 samples (36.50%) + Class 3: 59 samples (2.95%) + Class 4: 135 samples (6.75%) + Class 5: 61 samples (3.05%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7559999823570251 │ +│ covertype_test_f1-score │ 0.7537025213241577 │ +│ covertype_test_loss │ 0.6061452627182007 │ +│ covertype_test_precision │ 0.7561275362968445 │ +│ covertype_test_recall │ 0.7559999823570251 │ +│ covertype_test_score │ 0.7559999823570251 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 112.28it/s +Test metrics: [{'covertype_test_loss': 0.6061452627182007, 'lr': 8.856373824528418e-06, 'covertype_test_accuracy': 0.7559999823570251, 'covertype_test_precision': 0.7561275362968445, 'covertype_test_recall': 0.7559999823570251, 'covertype_test_f1-score': 0.7537025213241577, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7559999823570251}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 10 samples (0.53%) + Class 1: 992 samples (52.21%) + Class 2: 729 samples (38.37%) + Class 3: 55 samples (2.89%) + Class 4: 69 samples (3.63%) + Class 5: 45 samples (2.37%) +============================================================ +covertype_test_accuracy 5% removed: 0.7626 +covertype_test_precision 5% removed: 0.7604 +covertype_test_recall 5% removed: 0.7626 +covertype_test_f1-score 5% removed: 0.7598 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 10 samples (0.56%) + Class 1: 969 samples (53.83%) + Class 2: 719 samples (39.94%) + Class 3: 54 samples (3.00%) + Class 4: 23 samples (1.28%) + Class 5: 25 samples (1.39%) +============================================================ +covertype_test_accuracy 10% removed: 0.7678 +covertype_test_precision 10% removed: 0.7658 +covertype_test_recall 10% removed: 0.7678 +covertype_test_f1-score 10% removed: 0.7650 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 10 samples (0.62%) + Class 1: 881 samples (55.06%) + Class 2: 643 samples (40.19%) + Class 3: 45 samples (2.81%) + Class 4: 8 samples (0.50%) + Class 5: 13 samples (0.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.7706 +covertype_test_precision 20% removed: 0.7674 +covertype_test_recall 20% removed: 0.7706 +covertype_test_f1-score 20% removed: 0.7674 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 560 samples (56.00%) + Class 2: 421 samples (42.10%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7850 +covertype_test_precision 50% removed: 0.7824 +covertype_test_recall 50% removed: 0.7850 +covertype_test_f1-score 50% removed: 0.7828 +Wrote results for autoint on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/autoint_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7559±0.0064 5%: 0.7619±0.0052 10%: 0.7676±0.0044 20%: 0.7727±0.0048 50%: 0.7862±0.0098 +covertype_test_precision 0%: 0.7584±0.0036 5%: 0.7636±0.0037 10%: 0.7690±0.0034 20%: 0.7728±0.0065 50%: 0.7863±0.0103 +covertype_test_recall 0%: 0.7559±0.0064 5%: 0.7619±0.0052 10%: 0.7676±0.0044 20%: 0.7727±0.0048 50%: 0.7862±0.0098 +covertype_test_f1-score 0%: 0.7542±0.0072 5%: 0.7600±0.0064 10%: 0.7653±0.0055 20%: 0.7694±0.0053 50%: 0.7841±0.0105 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'fttransformer'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp7oudkwcp/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp7oudkwcp/output_0.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp7oudkwcp/output_0.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp7oudkwcp/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 82.69it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7317317128181458 │ +│ covertype_val_f1-score │ 0.7261075377464294 │ +│ covertype_val_loss │ 0.5912415981292725 │ +│ covertype_val_precision │ 0.7246288657188416 │ +│ covertype_val_recall │ 0.7317317128181458 │ +│ covertype_val_score │ 0.7317317128181458 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 233.92it/s +Validation metrics: [{'covertype_val_loss': 0.5912415981292725, 'lr': 0.0, 'covertype_val_accuracy': 0.7317317128181458, 'covertype_val_precision': 0.7246288657188416, 'covertype_val_recall': 0.7317317128181458, 'covertype_val_f1-score': 0.7261075377464294, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7317317128181458}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 6 samples (0.30%) + Class 1: 1041 samples (52.05%) + Class 2: 708 samples (35.40%) + Class 3: 61 samples (3.05%) + Class 4: 138 samples (6.90%) + Class 5: 44 samples (2.20%) + Class 6: 2 samples (0.10%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7404999732971191 │ +│ covertype_test_f1-score │ 0.7348502278327942 │ +│ covertype_test_loss │ 0.5808257460594177 │ +│ covertype_test_precision │ 0.7380586266517639 │ +│ covertype_test_recall │ 0.7404999732971191 │ +│ covertype_test_score │ 0.7404999732971191 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 222.96it/s +Test metrics: [{'covertype_test_loss': 0.5808257460594177, 'lr': 0.0, 'covertype_test_accuracy': 0.7404999732971191, 'covertype_test_precision': 0.7380586266517639, 'covertype_test_recall': 0.7404999732971191, 'covertype_test_f1-score': 0.7348502278327942, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7404999732971191}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 6 samples (0.32%) + Class 1: 1031 samples (54.26%) + Class 2: 707 samples (37.21%) + Class 3: 57 samples (3.00%) + Class 4: 67 samples (3.53%) + Class 5: 31 samples (1.63%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7526 +covertype_test_precision 5% removed: 0.7508 +covertype_test_recall 5% removed: 0.7526 +covertype_test_f1-score 5% removed: 0.7480 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 6 samples (0.33%) + Class 1: 1012 samples (56.22%) + Class 2: 696 samples (38.67%) + Class 3: 56 samples (3.11%) + Class 4: 20 samples (1.11%) + Class 5: 9 samples (0.50%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7583 +covertype_test_precision 10% removed: 0.7555 +covertype_test_recall 10% removed: 0.7583 +covertype_test_f1-score 10% removed: 0.7529 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 5 samples (0.31%) + Class 1: 922 samples (57.63%) + Class 2: 615 samples (38.44%) + Class 3: 48 samples (3.00%) + Class 4: 6 samples (0.38%) + Class 5: 4 samples (0.25%) +============================================================ +covertype_test_accuracy 20% removed: 0.7675 +covertype_test_precision 20% removed: 0.7667 +covertype_test_recall 20% removed: 0.7675 +covertype_test_f1-score 20% removed: 0.7616 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 565 samples (56.50%) + Class 2: 420 samples (42.00%) + Class 3: 10 samples (1.00%) +============================================================ +covertype_test_accuracy 50% removed: 0.7760 +covertype_test_precision 50% removed: 0.7744 +covertype_test_recall 50% removed: 0.7760 +covertype_test_f1-score 50% removed: 0.7733 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp7oudkwcp/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp7oudkwcp/output_1.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp7oudkwcp/output_1.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp7oudkwcp/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 70.18it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7317317128181458 │ +│ covertype_val_f1-score │ 0.7261859774589539 │ +│ covertype_val_loss │ 0.6118836402893066 │ +│ covertype_val_precision │ 0.7247807383537292 │ +│ covertype_val_recall │ 0.7317317128181458 │ +│ covertype_val_score │ 0.7317317128181458 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 181.16it/s +Validation metrics: [{'covertype_val_loss': 0.6118836402893066, 'lr': 0.0, 'covertype_val_accuracy': 0.7317317128181458, 'covertype_val_precision': 0.7247807383537292, 'covertype_val_recall': 0.7317317128181458, 'covertype_val_f1-score': 0.7261859774589539, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7317317128181458}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 10 samples (0.50%) + Class 1: 1031 samples (51.55%) + Class 2: 716 samples (35.80%) + Class 3: 56 samples (2.80%) + Class 4: 136 samples (6.80%) + Class 5: 45 samples (2.25%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7544999718666077 │ +│ covertype_test_f1-score │ 0.7512643337249756 │ +│ covertype_test_loss │ 0.5888674855232239 │ +│ covertype_test_precision │ 0.7541519999504089 │ +│ covertype_test_recall │ 0.7544999718666077 │ +│ covertype_test_score │ 0.7544999718666077 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 142.37it/s +Test metrics: [{'covertype_test_loss': 0.5888674855232239, 'lr': 0.0, 'covertype_test_accuracy': 0.7544999718666077, 'covertype_test_precision': 0.7541519999504089, 'covertype_test_recall': 0.7544999718666077, 'covertype_test_f1-score': 0.7512643337249756, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7544999718666077}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 10 samples (0.53%) + Class 1: 1019 samples (53.63%) + Class 2: 715 samples (37.63%) + Class 3: 52 samples (2.74%) + Class 4: 66 samples (3.47%) + Class 5: 37 samples (1.95%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7626 +covertype_test_precision 5% removed: 0.7629 +covertype_test_recall 5% removed: 0.7626 +covertype_test_f1-score 5% removed: 0.7601 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 10 samples (0.56%) + Class 1: 999 samples (55.50%) + Class 2: 704 samples (39.11%) + Class 3: 51 samples (2.83%) + Class 4: 23 samples (1.28%) + Class 5: 12 samples (0.67%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7711 +covertype_test_precision 10% removed: 0.7696 +covertype_test_recall 10% removed: 0.7711 +covertype_test_f1-score 10% removed: 0.7678 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 908 samples (56.75%) + Class 2: 627 samples (39.19%) + Class 3: 43 samples (2.69%) + Class 4: 8 samples (0.50%) + Class 5: 5 samples (0.31%) +============================================================ +covertype_test_accuracy 20% removed: 0.7738 +covertype_test_precision 20% removed: 0.7724 +covertype_test_recall 20% removed: 0.7738 +covertype_test_f1-score 20% removed: 0.7699 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 564 samples (56.40%) + Class 2: 417 samples (41.70%) + Class 3: 9 samples (0.90%) + Class 4: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7800 +covertype_test_precision 50% removed: 0.7794 +covertype_test_recall 50% removed: 0.7800 +covertype_test_f1-score 50% removed: 0.7788 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp7oudkwcp/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp7oudkwcp/output_2.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp7oudkwcp/output_2.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp7oudkwcp/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 92.66it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.759759783744812 │ +│ covertype_val_f1-score │ 0.7542113065719604 │ +│ covertype_val_loss │ 0.5762969255447388 │ +│ covertype_val_precision │ 0.7580543756484985 │ +│ covertype_val_recall │ 0.759759783744812 │ +│ covertype_val_score │ 0.759759783744812 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 171.38it/s +Validation metrics: [{'covertype_val_loss': 0.5762969255447388, 'lr': 0.0, 'covertype_val_accuracy': 0.759759783744812, 'covertype_val_precision': 0.7580543756484985, 'covertype_val_recall': 0.759759783744812, 'covertype_val_f1-score': 0.7542113065719604, 'covertype_val_support': 999.0, 'covertype_val_score': 0.759759783744812}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 1020 samples (51.00%) + Class 2: 717 samples (35.85%) + Class 3: 54 samples (2.70%) + Class 4: 141 samples (7.05%) + Class 5: 50 samples (2.50%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7605000138282776 │ +│ covertype_test_f1-score │ 0.7582971453666687 │ +│ covertype_test_loss │ 0.5598459243774414 │ +│ covertype_test_precision │ 0.760956346988678 │ +│ covertype_test_recall │ 0.7605000138282776 │ +│ covertype_test_score │ 0.7605000138282776 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 234.37it/s +Test metrics: [{'covertype_test_loss': 0.5598459243774414, 'lr': 0.0, 'covertype_test_accuracy': 0.7605000138282776, 'covertype_test_precision': 0.760956346988678, 'covertype_test_recall': 0.7605000138282776, 'covertype_test_f1-score': 0.7582971453666687, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7605000138282776}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 1012 samples (53.26%) + Class 2: 715 samples (37.63%) + Class 3: 51 samples (2.68%) + Class 4: 66 samples (3.47%) + Class 5: 42 samples (2.21%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7684 +covertype_test_precision 5% removed: 0.7684 +covertype_test_recall 5% removed: 0.7684 +covertype_test_f1-score 5% removed: 0.7665 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 993 samples (55.17%) + Class 2: 703 samples (39.06%) + Class 3: 50 samples (2.78%) + Class 4: 19 samples (1.06%) + Class 5: 21 samples (1.17%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7756 +covertype_test_precision 10% removed: 0.7747 +covertype_test_recall 10% removed: 0.7756 +covertype_test_f1-score 10% removed: 0.7732 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 898 samples (56.12%) + Class 2: 629 samples (39.31%) + Class 3: 42 samples (2.62%) + Class 4: 5 samples (0.31%) + Class 5: 13 samples (0.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.7819 +covertype_test_precision 20% removed: 0.7806 +covertype_test_recall 20% removed: 0.7819 +covertype_test_f1-score 20% removed: 0.7791 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 554 samples (55.40%) + Class 2: 428 samples (42.80%) + Class 3: 10 samples (1.00%) +============================================================ +covertype_test_accuracy 50% removed: 0.7890 +covertype_test_precision 50% removed: 0.7865 +covertype_test_recall 50% removed: 0.7890 +covertype_test_f1-score 50% removed: 0.7872 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp7oudkwcp/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp7oudkwcp/output_3.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp7oudkwcp/output_3.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp7oudkwcp/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 53.64it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7537537813186646 │ +│ covertype_val_f1-score │ 0.7477813363075256 │ +│ covertype_val_loss │ 0.5769358277320862 │ +│ covertype_val_precision │ 0.7497856616973877 │ +│ covertype_val_recall │ 0.7537537813186646 │ +│ covertype_val_score │ 0.7537537813186646 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 239.77it/s +Validation metrics: [{'covertype_val_loss': 0.5769358277320862, 'lr': 0.0, 'covertype_val_accuracy': 0.7537537813186646, 'covertype_val_precision': 0.7497856616973877, 'covertype_val_recall': 0.7537537813186646, 'covertype_val_f1-score': 0.7477813363075256, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7537537813186646}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 7 samples (0.35%) + Class 1: 1024 samples (51.20%) + Class 2: 720 samples (36.00%) + Class 3: 60 samples (3.00%) + Class 4: 154 samples (7.70%) + Class 5: 30 samples (1.50%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7620000243186951 │ +│ covertype_test_f1-score │ 0.7560362219810486 │ +│ covertype_test_loss │ 0.5664366483688354 │ +│ covertype_test_precision │ 0.7616814970970154 │ +│ covertype_test_recall │ 0.7620000243186951 │ +│ covertype_test_score │ 0.7620000243186951 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 228.50it/s +Test metrics: [{'covertype_test_loss': 0.5664366483688354, 'lr': 0.0, 'covertype_test_accuracy': 0.7620000243186951, 'covertype_test_precision': 0.7616814970970154, 'covertype_test_recall': 0.7620000243186951, 'covertype_test_f1-score': 0.7560362219810486, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7620000243186951}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 7 samples (0.37%) + Class 1: 1014 samples (53.37%) + Class 2: 719 samples (37.84%) + Class 3: 56 samples (2.95%) + Class 4: 76 samples (4.00%) + Class 5: 25 samples (1.32%) + Class 6: 3 samples (0.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.7721 +covertype_test_precision 5% removed: 0.7710 +covertype_test_recall 5% removed: 0.7721 +covertype_test_f1-score 5% removed: 0.7680 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 7 samples (0.39%) + Class 1: 996 samples (55.33%) + Class 2: 705 samples (39.17%) + Class 3: 55 samples (3.06%) + Class 4: 21 samples (1.17%) + Class 5: 15 samples (0.83%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7783 +covertype_test_precision 10% removed: 0.7769 +covertype_test_recall 10% removed: 0.7783 +covertype_test_f1-score 10% removed: 0.7743 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 900 samples (56.25%) + Class 2: 632 samples (39.50%) + Class 3: 47 samples (2.94%) + Class 4: 7 samples (0.44%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7856 +covertype_test_precision 20% removed: 0.7835 +covertype_test_recall 20% removed: 0.7856 +covertype_test_f1-score 20% removed: 0.7812 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 557 samples (55.70%) + Class 2: 429 samples (42.90%) + Class 3: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7950 +covertype_test_precision 50% removed: 0.7937 +covertype_test_recall 50% removed: 0.7950 +covertype_test_f1-score 50% removed: 0.7927 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp7oudkwcp/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp7oudkwcp/output_4.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp7oudkwcp/output_4.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp7oudkwcp/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 42.22it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.759759783744812 │ +│ covertype_val_f1-score │ 0.7543013095855713 │ +│ covertype_val_loss │ 0.5863985419273376 │ +│ covertype_val_precision │ 0.7564394474029541 │ +│ covertype_val_recall │ 0.759759783744812 │ +│ covertype_val_score │ 0.759759783744812 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 190.98it/s +Validation metrics: [{'covertype_val_loss': 0.5863985419273376, 'lr': 0.0, 'covertype_val_accuracy': 0.759759783744812, 'covertype_val_precision': 0.7564394474029541, 'covertype_val_recall': 0.759759783744812, 'covertype_val_f1-score': 0.7543013095855713, 'covertype_val_support': 999.0, 'covertype_val_score': 0.759759783744812}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 10 samples (0.50%) + Class 1: 1005 samples (50.25%) + Class 2: 741 samples (37.05%) + Class 3: 55 samples (2.75%) + Class 4: 139 samples (6.95%) + Class 5: 46 samples (2.30%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7580000162124634 │ +│ covertype_test_f1-score │ 0.7540860772132874 │ +│ covertype_test_loss │ 0.5678795576095581 │ +│ covertype_test_precision │ 0.7560226917266846 │ +│ covertype_test_recall │ 0.7580000162124634 │ +│ covertype_test_score │ 0.7580000162124634 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 238.56it/s +Test metrics: [{'covertype_test_loss': 0.5678795576095581, 'lr': 0.0, 'covertype_test_accuracy': 0.7580000162124634, 'covertype_test_precision': 0.7560226917266846, 'covertype_test_recall': 0.7580000162124634, 'covertype_test_f1-score': 0.7540860772132874, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7580000162124634}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 706 samples (37.16%) + Class 3: 61 samples (3.21%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 8 samples (0.42%) + Class 1: 996 samples (52.42%) + Class 2: 739 samples (38.89%) + Class 3: 52 samples (2.74%) + Class 4: 69 samples (3.63%) + Class 5: 35 samples (1.84%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7658 +covertype_test_precision 5% removed: 0.7639 +covertype_test_recall 5% removed: 0.7658 +covertype_test_f1-score 5% removed: 0.7622 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 967 samples (53.72%) + Class 2: 696 samples (38.67%) + Class 3: 59 samples (3.28%) + Class 4: 29 samples (1.61%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 8 samples (0.44%) + Class 1: 978 samples (54.33%) + Class 2: 727 samples (40.39%) + Class 3: 51 samples (2.83%) + Class 4: 25 samples (1.39%) + Class 5: 10 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7700 +covertype_test_precision 10% removed: 0.7660 +covertype_test_recall 10% removed: 0.7700 +covertype_test_f1-score 10% removed: 0.7656 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 50 samples (3.12%) + Class 4: 12 samples (0.75%) + Class 5: 10 samples (0.62%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 889 samples (55.56%) + Class 2: 646 samples (40.38%) + Class 3: 43 samples (2.69%) + Class 4: 10 samples (0.62%) + Class 5: 5 samples (0.31%) +============================================================ +covertype_test_accuracy 20% removed: 0.7756 +covertype_test_precision 20% removed: 0.7721 +covertype_test_recall 20% removed: 0.7756 +covertype_test_f1-score 20% removed: 0.7710 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 547 samples (54.70%) + Class 2: 426 samples (42.60%) + Class 3: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 544 samples (54.40%) + Class 2: 440 samples (44.00%) + Class 3: 9 samples (0.90%) + Class 4: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7910 +covertype_test_precision 50% removed: 0.7898 +covertype_test_recall 50% removed: 0.7910 +covertype_test_f1-score 50% removed: 0.7891 +Wrote results for fttransformer on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/fttransformer_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7551±0.0107 5%: 0.7643±0.0092 10%: 0.7707±0.0095 20%: 0.7769±0.0088 50%: 0.7862±0.0098 +covertype_test_precision 0%: 0.7542±0.0119 5%: 0.7634±0.0096 10%: 0.7685±0.0105 20%: 0.7751±0.0085 50%: 0.7848±0.0097 +covertype_test_recall 0%: 0.7551±0.0107 5%: 0.7643±0.0092 10%: 0.7707±0.0095 20%: 0.7769±0.0088 50%: 0.7862±0.0098 +covertype_test_f1-score 0%: 0.7509±0.0116 5%: 0.7609±0.0098 10%: 0.7668±0.0106 20%: 0.7726±0.0098 50%: 0.7842±0.0099 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'xgboost'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=xgboost --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=1 --split_config_file=/tmp/tmp_80d4bo7/split_data/split_config.json --sigma_aggregation=mean --n_estimators=100 --max_depth=3 --learning_rate=0.1 --subsample=1.0 --colsample_bytree=1.0 --reg_alpha=0.0 --reg_lambda=1.0 --n_jobs=-1 --random_state=42 --encoder_type=linear_flatten --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp_80d4bo7/output_0.json +General args: +╒════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 64 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ -1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.0001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ xgboost │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_80d4bo7/output_0.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_80d4bo7/split_data/split_config.json │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 1e-05 │ +╘════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: xgboost + +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +XGBoostLightning [1, 3456] [1, 3456] -- -- -- +===================================================================================================================================================================== +Total params: 0 +Trainable params: 0 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 0 +===================================================================================================================================================================== +Input size (MB): 0.01 +Forward/backward pass size (MB): 0.00 +Params size (MB): 0.00 +Estimated Total Size (MB): 0.01 +===================================================================================================================================================================== +GPU available: True (cuda), used: False +TPU available: False, using: 0 TPU cores +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/setup.py:175: GPU available but not used. You can set it by doing `Trainer(accelerator='gpu')`. +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1)` was configured so 1 batch per epoch will be used. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/core/optimizer.py:183: `LightningModule.configure_optimizers` returned `None`, this fit will run with no optimizer +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Identity │ 0 │ train │ 0 │ +│ 2 │ encoder │ Identity │ 0 │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 0 +Non-trainable params: 0 +Total params: 0 +Total estimated model params size (MB): 0.000 +Modules in train mode: 3 +Modules in eval mode: 0 +Total FLOPs: 0 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue1-gpu2-kl1e-8.log b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue1-gpu2-kl1e-8.log new file mode 100644 index 0000000000000000000000000000000000000000..381435d3513c8bc435bb4ec4558c474d57dbf74b --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue1-gpu2-kl1e-8.log @@ -0,0 +1,20984 @@ +[2026-09-17T16:56:20+00:00] tag=queue1-gpu2-kl1e-8 gpu=2 dataset=covertype predictive_kl_end=0.00000001 full=0.001875 sx=0.00075 +{ + "dataset": "covertype", + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "1e-08", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} +Not SLURM job. +╒══════════════════════════════════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ mock │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ activation_checkpointing │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ deterministic_mode │ warn │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pre_evaluation │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 512 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 500 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ improvement │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_val_cache_cadence │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ init_type │ trunc_normal │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_start_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_lr │ 0.0005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 12 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_ipe_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_gradient_clipping │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_type_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_index_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dropout_prob │ 0.0015 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_hidden │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_feedforward │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_heads │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_layers │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_act_func │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_cadence │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_model │ linear_probe │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ n_cls_tokens │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_type │ transformer │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_layers │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_embed_dim │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_heads │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_p_dropout │ 0.002 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_activation │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_dim_feedforward │ 256 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_allow_overlap │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_ctx_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_ctx_share │ 0.35 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_trgt_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_trgt_share │ 0.6 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_preds │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_encs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mu_init_std │ 0.03 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_std │ 0.005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_bias │ -4.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_x_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_y_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_evaluation_epochs │ 50 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_probe_patience │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_representation_type │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_encoder_type │ target_posterior │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_target_posterior │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_auxiliary_encoder │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_end_weight │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_end_weight │ 1e-08 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_annealing_epochs │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_x_weight │ 0.001 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_y_weight │ 0.5 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ latent_architecture │ stochastic │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ jepa_objective │ w_jepa_joint │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_full_num_projections │ 2048 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_marginal_num_projections │ 1024 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_p │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_include_marginals │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_x_weight │ 0.00075 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_z_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_y_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_end_weight │ 0.001875 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ safe_exit │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_selection │ filtered_20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sigma_aggregation │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ subset_size │ -1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ is_batchlearning │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ iteration │ 0 │ +╘══════════════════════════════════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════╛ + +CUDA Device Information: +CUDA_VISIBLE_DEVICES: 2 +Number of CUDA devices: 1 +Current CUDA device: 0 +CUDA device name: NVIDIA A100-SXM4-80GB + +Using device: cuda:0 +Device name: NVIDIA A100-SXM4-80GB +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +VariationalTJEPA parameters: ++-------------------------+---------+ +| Parameter | Value | ++=========================+=========+ +| hidden_dim | 64 | ++-------------------------+---------+ +| num_layers | 8 | ++-------------------------+---------+ +| num_heads | 8 | ++-------------------------+---------+ +| p_dropout | 0.0015 | ++-------------------------+---------+ +| layer_norm_eps | 1e-05 | ++-------------------------+---------+ +| feature_type_embedding | True | ++-------------------------+---------+ +| feature_index_embedding | True | ++-------------------------+---------+ +| dim_feedforward | 64 | ++-------------------------+---------+ +| use_reg_token | True | ++-------------------------+---------+ +| gradient_clipping | 1.0 | ++-------------------------+---------+ +| activation | gelu | ++-------------------------+---------+ +| num_features | 54 | ++-------------------------+---------+ +| n_cls_tokens | 1 | ++-------------------------+---------+ +MaskCollator params: +----------------- ----- +Allow overlap False +Min context share 0.15 +Max context share 0.35 +Min target share 0.15 +Max target share 0.6 +Min context 8 +Max context 18 +Min target 8 +Max target 32 +Num preds 4 +Num encs 1 +Num features 54 +Cardinalities [] +Base mask seed 0 +----------------- ----- +KL-x annealing: start=0.0 for 20 steps, then anneal to 1e-06 over 1200 steps. +KL-z annealing: start=0.0 for 20 steps, then anneal to 1e-05 over 1200 steps. +KL-y annealing: start=0.0 for 20 steps, then anneal to 1e-08 over 400 steps. +W-JEPA marginal-scale annealing (s_x): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (z): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (s_y): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +Configuration saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/vtjepa_config.yaml +All results will be saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654 +[VTJEPA] Running downstream probe before training begins +Using full dataset for embedding generation: covertype +Generating embedding using: JEPAEmbeddingEncoder on full dataset + 0%| | 0/20 [00:00= 15) +[VTJEPA] Early stopping triggered at epoch 82 + Best downstream validation score: 0.758750 at epoch 51 + No improvement for 15 probe evaluations +Restored best downstream-selected checkpoint from epoch 51. +Training completed. +[2026-09-17T17:33:55+00:00] tag=queue1-gpu2-kl1e-8 dataset=covertype starting downstream models=mlp,dcnv2,resnet,autoint,fttransformer,xgboost +[Config] Loaded sigma_aggregation=mean from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/vtjepa_config.yaml +[Config] Loaded training data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/vtjepa_config.yaml +Split statistics: + val: 999 samples + test: 2000 samples + train: 7001 samples +Running downstream for dataset 'covertype', model 'mlp'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpuwjmvmad/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpuwjmvmad/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpuwjmvmad/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpuwjmvmad/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 26/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 103.31it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7407407164573669 │ +│ covertype_val_f1-score │ 0.7311959862709045 │ +│ covertype_val_loss │ 0.6451944708824158 │ +│ covertype_val_precision │ 0.7367478013038635 │ +│ covertype_val_recall │ 0.7407407164573669 │ +│ covertype_val_score │ 0.7407407164573669 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 186.11it/s +Validation metrics: [{'covertype_val_loss': 0.6451944708824158, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7407407164573669, 'covertype_val_precision': 0.7367478013038635, 'covertype_val_recall': 0.7407407164573669, 'covertype_val_f1-score': 0.7311959862709045, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7407407164573669}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1001 samples (50.05%) + Class 2: 736 samples (36.80%) + Class 3: 61 samples (3.05%) + Class 4: 181 samples (9.05%) + Class 5: 16 samples (0.80%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7164999842643738 │ +│ covertype_test_f1-score │ 0.7066012024879456 │ +│ covertype_test_loss │ 0.6390084028244019 │ +│ covertype_test_precision │ 0.7108187675476074 │ +│ covertype_test_recall │ 0.7164999842643738 │ +│ covertype_test_score │ 0.7164999842643738 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 106.91it/s +Test metrics: [{'covertype_test_loss': 0.6390084028244019, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7164999842643738, 'covertype_test_precision': 0.7108187675476074, 'covertype_test_recall': 0.7164999842643738, 'covertype_test_f1-score': 0.7066012024879456, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7164999842643738}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 999 samples (52.58%) + Class 2: 734 samples (38.63%) + Class 3: 56 samples (2.95%) + Class 4: 94 samples (4.95%) + Class 5: 16 samples (0.84%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7263 +covertype_test_precision 5% removed: 0.7172 +covertype_test_recall 5% removed: 0.7263 +covertype_test_f1-score 5% removed: 0.7187 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 969 samples (53.83%) + Class 2: 717 samples (39.83%) + Class 3: 56 samples (3.11%) + Class 4: 41 samples (2.28%) + Class 5: 16 samples (0.89%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7300 +covertype_test_precision 10% removed: 0.7182 +covertype_test_recall 10% removed: 0.7300 +covertype_test_f1-score 10% removed: 0.7233 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 866 samples (54.12%) + Class 2: 641 samples (40.06%) + Class 3: 54 samples (3.38%) + Class 4: 29 samples (1.81%) + Class 5: 9 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7381 +covertype_test_precision 20% removed: 0.7254 +covertype_test_recall 20% removed: 0.7381 +covertype_test_f1-score 20% removed: 0.7316 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 561 samples (56.10%) + Class 2: 388 samples (38.80%) + Class 3: 43 samples (4.30%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7480 +covertype_test_precision 50% removed: 0.7349 +covertype_test_recall 50% removed: 0.7480 +covertype_test_f1-score 50% removed: 0.7409 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpuwjmvmad/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpuwjmvmad/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpuwjmvmad/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpuwjmvmad/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 64.15it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7157157063484192 │ +│ covertype_val_f1-score │ 0.691078782081604 │ +│ covertype_val_loss │ 0.6545438170433044 │ +│ covertype_val_precision │ 0.6921530365943909 │ +│ covertype_val_recall │ 0.7157157063484192 │ +│ covertype_val_score │ 0.7157157063484192 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 82.97it/s +Validation metrics: [{'covertype_val_loss': 0.6545438170433044, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7157157063484192, 'covertype_val_precision': 0.6921530365943909, 'covertype_val_recall': 0.7157157063484192, 'covertype_val_f1-score': 0.691078782081604, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7157157063484192}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1252 samples (62.60%) + Class 2: 502 samples (25.10%) + Class 3: 44 samples (2.20%) + Class 4: 196 samples (9.80%) + Class 5: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7070000171661377 │ +│ covertype_test_f1-score │ 0.6837852597236633 │ +│ covertype_test_loss │ 0.6479858160018921 │ +│ covertype_test_precision │ 0.6984880566596985 │ +│ covertype_test_recall │ 0.7070000171661377 │ +│ covertype_test_score │ 0.7070000171661377 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 241.14it/s +Test metrics: [{'covertype_test_loss': 0.6479858160018921, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7070000171661377, 'covertype_test_precision': 0.6984880566596985, 'covertype_test_recall': 0.7070000171661377, 'covertype_test_f1-score': 0.6837852597236633, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7070000171661377}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1250 samples (65.79%) + Class 2: 500 samples (26.32%) + Class 3: 39 samples (2.05%) + Class 4: 105 samples (5.53%) + Class 5: 6 samples (0.32%) +============================================================ +covertype_test_accuracy 5% removed: 0.7174 +covertype_test_precision 5% removed: 0.7104 +covertype_test_recall 5% removed: 0.7174 +covertype_test_f1-score 5% removed: 0.6970 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 1219 samples (67.72%) + Class 2: 484 samples (26.89%) + Class 3: 39 samples (2.17%) + Class 4: 55 samples (3.06%) + Class 5: 3 samples (0.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7217 +covertype_test_precision 10% removed: 0.7194 +covertype_test_recall 10% removed: 0.7217 +covertype_test_f1-score 10% removed: 0.7023 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 1096 samples (68.50%) + Class 2: 427 samples (26.69%) + Class 3: 38 samples (2.38%) + Class 4: 39 samples (2.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7219 +covertype_test_precision 20% removed: 0.7167 +covertype_test_recall 20% removed: 0.7219 +covertype_test_f1-score 20% removed: 0.7018 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 729 samples (72.90%) + Class 2: 232 samples (23.20%) + Class 3: 31 samples (3.10%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7230 +covertype_test_precision 50% removed: 0.7371 +covertype_test_recall 50% removed: 0.7230 +covertype_test_f1-score 50% removed: 0.6991 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpuwjmvmad/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpuwjmvmad/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpuwjmvmad/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpuwjmvmad/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 42/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 148.07it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7297297120094299 │ +│ covertype_val_f1-score │ 0.7167871594429016 │ +│ covertype_val_loss │ 0.6648412346839905 │ +│ covertype_val_precision │ 0.716544508934021 │ +│ covertype_val_recall │ 0.7297297120094299 │ +│ covertype_val_score │ 0.7297297120094299 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 503.17it/s +Validation metrics: [{'covertype_val_loss': 0.6648412346839905, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7297297120094299, 'covertype_val_precision': 0.716544508934021, 'covertype_val_recall': 0.7297297120094299, 'covertype_val_f1-score': 0.7167871594429016, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7297297120094299}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 1 samples (0.05%) + Class 1: 1170 samples (58.50%) + Class 2: 578 samples (28.90%) + Class 3: 39 samples (1.95%) + Class 4: 181 samples (9.05%) + Class 5: 31 samples (1.55%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7179999947547913 │ +│ covertype_test_f1-score │ 0.7044111490249634 │ +│ covertype_test_loss │ 0.6636789441108704 │ +│ covertype_test_precision │ 0.7235875129699707 │ +│ covertype_test_recall │ 0.7179999947547913 │ +│ covertype_test_score │ 0.7179999947547913 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 500.39it/s +Test metrics: [{'covertype_test_loss': 0.6636789441108704, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7179999947547913, 'covertype_test_precision': 0.7235875129699707, 'covertype_test_recall': 0.7179999947547913, 'covertype_test_f1-score': 0.7044111490249634, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7179999947547913}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 1 samples (0.05%) + Class 1: 1168 samples (61.47%) + Class 2: 575 samples (30.26%) + Class 3: 35 samples (1.84%) + Class 4: 91 samples (4.79%) + Class 5: 30 samples (1.58%) +============================================================ +covertype_test_accuracy 5% removed: 0.7279 +covertype_test_precision 5% removed: 0.7350 +covertype_test_recall 5% removed: 0.7279 +covertype_test_f1-score 5% removed: 0.7165 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 1139 samples (63.28%) + Class 2: 559 samples (31.06%) + Class 3: 35 samples (1.94%) + Class 4: 43 samples (2.39%) + Class 5: 23 samples (1.28%) +============================================================ +covertype_test_accuracy 10% removed: 0.7333 +covertype_test_precision 10% removed: 0.7416 +covertype_test_recall 10% removed: 0.7333 +covertype_test_f1-score 10% removed: 0.7219 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 1026 samples (64.12%) + Class 2: 494 samples (30.88%) + Class 3: 35 samples (2.19%) + Class 4: 31 samples (1.94%) + Class 5: 13 samples (0.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.7381 +covertype_test_precision 20% removed: 0.7486 +covertype_test_recall 20% removed: 0.7381 +covertype_test_f1-score 20% removed: 0.7263 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 681 samples (68.10%) + Class 2: 283 samples (28.30%) + Class 3: 27 samples (2.70%) + Class 4: 8 samples (0.80%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7410 +covertype_test_precision 50% removed: 0.7434 +covertype_test_recall 50% removed: 0.7410 +covertype_test_f1-score 50% removed: 0.7255 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpuwjmvmad/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpuwjmvmad/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpuwjmvmad/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpuwjmvmad/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 104.75it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.6966966986656189 │ +│ covertype_val_f1-score │ 0.6665253043174744 │ +│ covertype_val_loss │ 0.682440459728241 │ +│ covertype_val_precision │ 0.6912304162979126 │ +│ covertype_val_recall │ 0.6966966986656189 │ +│ covertype_val_score │ 0.6966966986656189 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 202.80it/s +Validation metrics: [{'covertype_val_loss': 0.682440459728241, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.6966966986656189, 'covertype_val_precision': 0.6912304162979126, 'covertype_val_recall': 0.6966966986656189, 'covertype_val_f1-score': 0.6665253043174744, 'covertype_val_support': 999.0, 'covertype_val_score': 0.6966966986656189}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1386 samples (69.30%) + Class 2: 414 samples (20.70%) + Class 3: 21 samples (1.05%) + Class 4: 161 samples (8.05%) + Class 5: 18 samples (0.90%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6934999823570251 │ +│ covertype_test_f1-score │ 0.6620186567306519 │ +│ covertype_test_loss │ 0.69875168800354 │ +│ covertype_test_precision │ 0.7005756497383118 │ +│ covertype_test_recall │ 0.6934999823570251 │ +│ covertype_test_score │ 0.6934999823570251 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 249.49it/s +Test metrics: [{'covertype_test_loss': 0.69875168800354, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6934999823570251, 'covertype_test_precision': 0.7005756497383118, 'covertype_test_recall': 0.6934999823570251, 'covertype_test_f1-score': 0.6620186567306519, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6934999823570251}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1376 samples (72.42%) + Class 2: 411 samples (21.63%) + Class 3: 17 samples (0.89%) + Class 4: 80 samples (4.21%) + Class 5: 16 samples (0.84%) +============================================================ +covertype_test_accuracy 5% removed: 0.6995 +covertype_test_precision 5% removed: 0.7087 +covertype_test_recall 5% removed: 0.6995 +covertype_test_f1-score 5% removed: 0.6693 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 1332 samples (74.00%) + Class 2: 400 samples (22.22%) + Class 3: 17 samples (0.94%) + Class 4: 39 samples (2.17%) + Class 5: 12 samples (0.67%) +============================================================ +covertype_test_accuracy 10% removed: 0.7017 +covertype_test_precision 10% removed: 0.7131 +covertype_test_recall 10% removed: 0.7017 +covertype_test_f1-score 10% removed: 0.6720 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 1184 samples (74.00%) + Class 2: 364 samples (22.75%) + Class 3: 17 samples (1.06%) + Class 4: 29 samples (1.81%) + Class 5: 6 samples (0.38%) +============================================================ +covertype_test_accuracy 20% removed: 0.6994 +covertype_test_precision 20% removed: 0.7103 +covertype_test_recall 20% removed: 0.6994 +covertype_test_f1-score 20% removed: 0.6695 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 757 samples (75.70%) + Class 2: 220 samples (22.00%) + Class 3: 15 samples (1.50%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.6990 +covertype_test_precision 50% removed: 0.7179 +covertype_test_recall 50% removed: 0.6990 +covertype_test_f1-score 50% removed: 0.6676 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpuwjmvmad/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpuwjmvmad/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpuwjmvmad/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpuwjmvmad/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 94.78it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7197197079658508 │ +│ covertype_val_f1-score │ 0.7079901099205017 │ +│ covertype_val_loss │ 0.644664466381073 │ +│ covertype_val_precision │ 0.7123017907142639 │ +│ covertype_val_recall │ 0.7197197079658508 │ +│ covertype_val_score │ 0.7197197079658508 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 569.27it/s +Validation metrics: [{'covertype_val_loss': 0.644664466381073, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7197197079658508, 'covertype_val_precision': 0.7123017907142639, 'covertype_val_recall': 0.7197197079658508, 'covertype_val_f1-score': 0.7079901099205017, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7197197079658508}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 944 samples (47.20%) + Class 2: 827 samples (41.35%) + Class 3: 46 samples (2.30%) + Class 4: 164 samples (8.20%) + Class 5: 19 samples (0.95%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7114999890327454 │ +│ covertype_test_f1-score │ 0.6997621059417725 │ +│ covertype_test_loss │ 0.641374409198761 │ +│ covertype_test_precision │ 0.7007896304130554 │ +│ covertype_test_recall │ 0.7114999890327454 │ +│ covertype_test_score │ 0.7114999890327454 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 571.25it/s +Test metrics: [{'covertype_test_loss': 0.641374409198761, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7114999890327454, 'covertype_test_precision': 0.7007896304130554, 'covertype_test_recall': 0.7114999890327454, 'covertype_test_f1-score': 0.6997621059417725, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7114999890327454}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 939 samples (49.42%) + Class 2: 824 samples (43.37%) + Class 3: 42 samples (2.21%) + Class 4: 77 samples (4.05%) + Class 5: 18 samples (0.95%) +============================================================ +covertype_test_accuracy 5% removed: 0.7205 +covertype_test_precision 5% removed: 0.7110 +covertype_test_recall 5% removed: 0.7205 +covertype_test_f1-score 5% removed: 0.7121 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 905 samples (50.28%) + Class 2: 807 samples (44.83%) + Class 3: 42 samples (2.33%) + Class 4: 40 samples (2.22%) + Class 5: 6 samples (0.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.7250 +covertype_test_precision 10% removed: 0.7168 +covertype_test_recall 10% removed: 0.7250 +covertype_test_f1-score 10% removed: 0.7166 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 803 samples (50.19%) + Class 2: 722 samples (45.12%) + Class 3: 42 samples (2.62%) + Class 4: 29 samples (1.81%) + Class 5: 4 samples (0.25%) +============================================================ +covertype_test_accuracy 20% removed: 0.7319 +covertype_test_precision 20% removed: 0.7241 +covertype_test_recall 20% removed: 0.7319 +covertype_test_f1-score 20% removed: 0.7251 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 523 samples (52.30%) + Class 2: 437 samples (43.70%) + Class 3: 32 samples (3.20%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7450 +covertype_test_precision 50% removed: 0.7353 +covertype_test_recall 50% removed: 0.7450 +covertype_test_f1-score 50% removed: 0.7394 +Wrote results for mlp on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/mlp_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7093±0.0122 5%: 0.7183±0.0141 10%: 0.7223±0.0154 20%: 0.7259±0.0202 50%: 0.7312±0.0254 +covertype_test_precision 0%: 0.7069±0.0130 5%: 0.7165±0.0135 10%: 0.7218±0.0140 20%: 0.7250±0.0180 50%: 0.7337±0.0118 +covertype_test_recall 0%: 0.7093±0.0122 5%: 0.7183±0.0141 10%: 0.7223±0.0154 20%: 0.7259±0.0202 50%: 0.7312±0.0254 +covertype_test_f1-score 0%: 0.6913±0.0232 5%: 0.7027±0.0255 10%: 0.7072±0.0265 20%: 0.7109±0.0320 50%: 0.7145±0.0386 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'dcnv2'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp7c8dl1hh/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp7c8dl1hh/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp7c8dl1hh/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp7c8dl1hh/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 47/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 78.89it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7657657861709595 │ +│ covertype_val_f1-score │ 0.7606039047241211 │ +│ covertype_val_loss │ 0.5865755677223206 │ +│ covertype_val_precision │ 0.7588055729866028 │ +│ covertype_val_recall │ 0.7657657861709595 │ +│ covertype_val_score │ 0.7657657861709595 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 272.02it/s +Validation metrics: [{'covertype_val_loss': 0.5865755677223206, 'lr': 3.9426490729965735e-06, 'covertype_val_accuracy': 0.7657657861709595, 'covertype_val_precision': 0.7588055729866028, 'covertype_val_recall': 0.7657657861709595, 'covertype_val_f1-score': 0.7606039047241211, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7657657861709595}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 999 samples (49.95%) + Class 2: 727 samples (36.35%) + Class 3: 63 samples (3.15%) + Class 4: 131 samples (6.55%) + Class 5: 59 samples (2.95%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.784500002861023 │ +│ covertype_test_f1-score │ 0.7833357453346252 │ +│ covertype_test_loss │ 0.5796204209327698 │ +│ covertype_test_precision │ 0.7850045561790466 │ +│ covertype_test_recall │ 0.784500002861023 │ +│ covertype_test_score │ 0.784500002861023 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 309.28it/s +Test metrics: [{'covertype_test_loss': 0.5796204209327698, 'lr': 3.9426490729965735e-06, 'covertype_test_accuracy': 0.784500002861023, 'covertype_test_precision': 0.7850045561790466, 'covertype_test_recall': 0.784500002861023, 'covertype_test_f1-score': 0.7833357453346252, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.784500002861023}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 988 samples (52.00%) + Class 2: 725 samples (38.16%) + Class 3: 58 samples (3.05%) + Class 4: 64 samples (3.37%) + Class 5: 48 samples (2.53%) +============================================================ +covertype_test_accuracy 5% removed: 0.7926 +covertype_test_precision 5% removed: 0.7913 +covertype_test_recall 5% removed: 0.7926 +covertype_test_f1-score 5% removed: 0.7911 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 954 samples (53.00%) + Class 2: 709 samples (39.39%) + Class 3: 58 samples (3.22%) + Class 4: 40 samples (2.22%) + Class 5: 22 samples (1.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.7961 +covertype_test_precision 10% removed: 0.7934 +covertype_test_recall 10% removed: 0.7961 +covertype_test_f1-score 10% removed: 0.7940 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 852 samples (53.25%) + Class 2: 638 samples (39.88%) + Class 3: 57 samples (3.56%) + Class 4: 29 samples (1.81%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.8069 +covertype_test_precision 20% removed: 0.8062 +covertype_test_recall 20% removed: 0.8069 +covertype_test_f1-score 20% removed: 0.8054 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 538 samples (53.80%) + Class 2: 406 samples (40.60%) + Class 3: 41 samples (4.10%) + Class 4: 7 samples (0.70%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8020 +covertype_test_precision 50% removed: 0.8004 +covertype_test_recall 50% removed: 0.8020 +covertype_test_f1-score 50% removed: 0.8003 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp7c8dl1hh/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp7c8dl1hh/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp7c8dl1hh/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp7c8dl1hh/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 47/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 167.83it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7767767906188965 │ +│ covertype_val_f1-score │ 0.7677018046379089 │ +│ covertype_val_loss │ 0.6060323715209961 │ +│ covertype_val_precision │ 0.7667948007583618 │ +│ covertype_val_recall │ 0.7767767906188965 │ +│ covertype_val_score │ 0.7767767906188965 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 472.23it/s +Validation metrics: [{'covertype_val_loss': 0.6060323715209961, 'lr': 3.9426490729965735e-06, 'covertype_val_accuracy': 0.7767767906188965, 'covertype_val_precision': 0.7667948007583618, 'covertype_val_recall': 0.7767767906188965, 'covertype_val_f1-score': 0.7677018046379089, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7767767906188965}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 1066 samples (53.30%) + Class 2: 681 samples (34.05%) + Class 3: 57 samples (2.85%) + Class 4: 149 samples (7.45%) + Class 5: 30 samples (1.50%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7864999771118164 │ +│ covertype_test_f1-score │ 0.7807865738868713 │ +│ covertype_test_loss │ 0.5701729655265808 │ +│ covertype_test_precision │ 0.7838271260261536 │ +│ covertype_test_recall │ 0.7864999771118164 │ +│ covertype_test_score │ 0.7864999771118164 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 477.13it/s +Test metrics: [{'covertype_test_loss': 0.5701729655265808, 'lr': 3.9426490729965735e-06, 'covertype_test_accuracy': 0.7864999771118164, 'covertype_test_precision': 0.7838271260261536, 'covertype_test_recall': 0.7864999771118164, 'covertype_test_f1-score': 0.7807865738868713, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7864999771118164}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 12 samples (0.63%) + Class 1: 1054 samples (55.47%) + Class 2: 677 samples (35.63%) + Class 3: 54 samples (2.84%) + Class 4: 79 samples (4.16%) + Class 5: 24 samples (1.26%) +============================================================ +covertype_test_accuracy 5% removed: 0.7937 +covertype_test_precision 5% removed: 0.7898 +covertype_test_recall 5% removed: 0.7937 +covertype_test_f1-score 5% removed: 0.7890 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 12 samples (0.67%) + Class 1: 1016 samples (56.44%) + Class 2: 662 samples (36.78%) + Class 3: 54 samples (3.00%) + Class 4: 46 samples (2.56%) + Class 5: 10 samples (0.56%) +============================================================ +covertype_test_accuracy 10% removed: 0.7983 +covertype_test_precision 10% removed: 0.7950 +covertype_test_recall 10% removed: 0.7983 +covertype_test_f1-score 10% removed: 0.7936 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 901 samples (56.31%) + Class 2: 595 samples (37.19%) + Class 3: 54 samples (3.38%) + Class 4: 34 samples (2.12%) + Class 5: 4 samples (0.25%) +============================================================ +covertype_test_accuracy 20% removed: 0.8019 +covertype_test_precision 20% removed: 0.7998 +covertype_test_recall 20% removed: 0.8019 +covertype_test_f1-score 20% removed: 0.7983 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 575 samples (57.50%) + Class 2: 373 samples (37.30%) + Class 3: 38 samples (3.80%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.8030 +covertype_test_precision 50% removed: 0.8001 +covertype_test_recall 50% removed: 0.8030 +covertype_test_f1-score 50% removed: 0.7991 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp7c8dl1hh/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp7c8dl1hh/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp7c8dl1hh/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp7c8dl1hh/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 173.62it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7667667865753174 │ +│ covertype_val_f1-score │ 0.7614143490791321 │ +│ covertype_val_loss │ 0.5800210237503052 │ +│ covertype_val_precision │ 0.762290894985199 │ +│ covertype_val_recall │ 0.7667667865753174 │ +│ covertype_val_score │ 0.7667667865753174 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 476.38it/s +Validation metrics: [{'covertype_val_loss': 0.5800210237503052, 'lr': 0.0, 'covertype_val_accuracy': 0.7667667865753174, 'covertype_val_precision': 0.762290894985199, 'covertype_val_recall': 0.7667667865753174, 'covertype_val_f1-score': 0.7614143490791321, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7667667865753174}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 21 samples (1.05%) + Class 1: 991 samples (49.55%) + Class 2: 742 samples (37.10%) + Class 3: 59 samples (2.95%) + Class 4: 129 samples (6.45%) + Class 5: 55 samples (2.75%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7940000295639038 │ +│ covertype_test_f1-score │ 0.7926950454711914 │ +│ covertype_test_loss │ 0.5769955515861511 │ +│ covertype_test_precision │ 0.7940806150436401 │ +│ covertype_test_recall │ 0.7940000295639038 │ +│ covertype_test_score │ 0.7940000295639038 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 401.52it/s +Test metrics: [{'covertype_test_loss': 0.5769955515861511, 'lr': 0.0, 'covertype_test_accuracy': 0.7940000295639038, 'covertype_test_precision': 0.7940806150436401, 'covertype_test_recall': 0.7940000295639038, 'covertype_test_f1-score': 0.7926950454711914, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7940000295639038}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 20 samples (1.05%) + Class 1: 978 samples (51.47%) + Class 2: 740 samples (38.95%) + Class 3: 54 samples (2.84%) + Class 4: 64 samples (3.37%) + Class 5: 44 samples (2.32%) +============================================================ +covertype_test_accuracy 5% removed: 0.8005 +covertype_test_precision 5% removed: 0.7993 +covertype_test_recall 5% removed: 0.8005 +covertype_test_f1-score 5% removed: 0.7992 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 20 samples (1.11%) + Class 1: 944 samples (52.44%) + Class 2: 724 samples (40.22%) + Class 3: 54 samples (3.00%) + Class 4: 40 samples (2.22%) + Class 5: 18 samples (1.00%) +============================================================ +covertype_test_accuracy 10% removed: 0.8039 +covertype_test_precision 10% removed: 0.8015 +covertype_test_recall 10% removed: 0.8039 +covertype_test_f1-score 10% removed: 0.8020 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 838 samples (52.38%) + Class 2: 653 samples (40.81%) + Class 3: 54 samples (3.38%) + Class 4: 30 samples (1.88%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.8125 +covertype_test_precision 20% removed: 0.8128 +covertype_test_recall 20% removed: 0.8125 +covertype_test_f1-score 20% removed: 0.8115 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 534 samples (53.40%) + Class 2: 412 samples (41.20%) + Class 3: 38 samples (3.80%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.8160 +covertype_test_precision 50% removed: 0.8132 +covertype_test_recall 50% removed: 0.8160 +covertype_test_f1-score 50% removed: 0.8140 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp7c8dl1hh/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp7c8dl1hh/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp7c8dl1hh/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp7c8dl1hh/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 117.67it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7857857942581177 │ +│ covertype_val_f1-score │ 0.7811432480812073 │ +│ covertype_val_loss │ 0.5574735999107361 │ +│ covertype_val_precision │ 0.7800651788711548 │ +│ covertype_val_recall │ 0.7857857942581177 │ +│ covertype_val_score │ 0.7857857942581177 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 393.59it/s +Validation metrics: [{'covertype_val_loss': 0.5574735999107361, 'lr': 0.0, 'covertype_val_accuracy': 0.7857857942581177, 'covertype_val_precision': 0.7800651788711548, 'covertype_val_recall': 0.7857857942581177, 'covertype_val_f1-score': 0.7811432480812073, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7857857942581177}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 1017 samples (50.85%) + Class 2: 718 samples (35.90%) + Class 3: 58 samples (2.90%) + Class 4: 131 samples (6.55%) + Class 5: 54 samples (2.70%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7944999933242798 │ +│ covertype_test_f1-score │ 0.7927768230438232 │ +│ covertype_test_loss │ 0.572138249874115 │ +│ covertype_test_precision │ 0.7935996055603027 │ +│ covertype_test_recall │ 0.7944999933242798 │ +│ covertype_test_score │ 0.7944999933242798 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 374.10it/s +Test metrics: [{'covertype_test_loss': 0.572138249874115, 'lr': 0.0, 'covertype_test_accuracy': 0.7944999933242798, 'covertype_test_precision': 0.7935996055603027, 'covertype_test_recall': 0.7944999933242798, 'covertype_test_f1-score': 0.7927768230438232, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7944999933242798}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 1004 samples (52.84%) + Class 2: 716 samples (37.68%) + Class 3: 53 samples (2.79%) + Class 4: 67 samples (3.53%) + Class 5: 43 samples (2.26%) +============================================================ +covertype_test_accuracy 5% removed: 0.8021 +covertype_test_precision 5% removed: 0.8001 +covertype_test_recall 5% removed: 0.8021 +covertype_test_f1-score 5% removed: 0.8003 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 970 samples (53.89%) + Class 2: 700 samples (38.89%) + Class 3: 53 samples (2.94%) + Class 4: 43 samples (2.39%) + Class 5: 17 samples (0.94%) +============================================================ +covertype_test_accuracy 10% removed: 0.8067 +covertype_test_precision 10% removed: 0.8036 +covertype_test_recall 10% removed: 0.8067 +covertype_test_f1-score 10% removed: 0.8042 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 862 samples (53.87%) + Class 2: 632 samples (39.50%) + Class 3: 53 samples (3.31%) + Class 4: 32 samples (2.00%) + Class 5: 6 samples (0.38%) +============================================================ +covertype_test_accuracy 20% removed: 0.8144 +covertype_test_precision 20% removed: 0.8132 +covertype_test_recall 20% removed: 0.8144 +covertype_test_f1-score 20% removed: 0.8125 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 551 samples (55.10%) + Class 2: 397 samples (39.70%) + Class 3: 37 samples (3.70%) + Class 4: 9 samples (0.90%) +============================================================ +covertype_test_accuracy 50% removed: 0.8150 +covertype_test_precision 50% removed: 0.8119 +covertype_test_recall 50% removed: 0.8150 +covertype_test_f1-score 50% removed: 0.8120 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp7c8dl1hh/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp7c8dl1hh/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp7c8dl1hh/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp7c8dl1hh/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 140.17it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7687687873840332 │ +│ covertype_val_f1-score │ 0.7633522152900696 │ +│ covertype_val_loss │ 0.5818315148353577 │ +│ covertype_val_precision │ 0.7612444162368774 │ +│ covertype_val_recall │ 0.7687687873840332 │ +│ covertype_val_score │ 0.7687687873840332 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 465.87it/s +Validation metrics: [{'covertype_val_loss': 0.5818315148353577, 'lr': 0.0, 'covertype_val_accuracy': 0.7687687873840332, 'covertype_val_precision': 0.7612444162368774, 'covertype_val_recall': 0.7687687873840332, 'covertype_val_f1-score': 0.7633522152900696, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7687687873840332}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1038 samples (51.90%) + Class 2: 696 samples (34.80%) + Class 3: 59 samples (2.95%) + Class 4: 136 samples (6.80%) + Class 5: 50 samples (2.50%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7864999771118164 │ +│ covertype_test_f1-score │ 0.784608781337738 │ +│ covertype_test_loss │ 0.5527024865150452 │ +│ covertype_test_precision │ 0.7864618301391602 │ +│ covertype_test_recall │ 0.7864999771118164 │ +│ covertype_test_score │ 0.7864999771118164 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 483.22it/s +Test metrics: [{'covertype_test_loss': 0.5527024865150452, 'lr': 0.0, 'covertype_test_accuracy': 0.7864999771118164, 'covertype_test_precision': 0.7864618301391602, 'covertype_test_recall': 0.7864999771118164, 'covertype_test_f1-score': 0.784608781337738, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7864999771118164}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 16 samples (0.84%) + Class 1: 1026 samples (54.00%) + Class 2: 694 samples (36.53%) + Class 3: 54 samples (2.84%) + Class 4: 71 samples (3.74%) + Class 5: 39 samples (2.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7926 +covertype_test_precision 5% removed: 0.7907 +covertype_test_recall 5% removed: 0.7926 +covertype_test_f1-score 5% removed: 0.7905 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 992 samples (55.11%) + Class 2: 678 samples (37.67%) + Class 3: 54 samples (3.00%) + Class 4: 45 samples (2.50%) + Class 5: 15 samples (0.83%) +============================================================ +covertype_test_accuracy 10% removed: 0.7950 +covertype_test_precision 10% removed: 0.7926 +covertype_test_recall 10% removed: 0.7950 +covertype_test_f1-score 10% removed: 0.7923 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 882 samples (55.12%) + Class 2: 610 samples (38.12%) + Class 3: 53 samples (3.31%) + Class 4: 33 samples (2.06%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.8062 +covertype_test_precision 20% removed: 0.8057 +covertype_test_recall 20% removed: 0.8062 +covertype_test_f1-score 20% removed: 0.8045 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 563 samples (56.30%) + Class 2: 384 samples (38.40%) + Class 3: 37 samples (3.70%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.8040 +covertype_test_precision 50% removed: 0.8015 +covertype_test_recall 50% removed: 0.8040 +covertype_test_f1-score 50% removed: 0.8014 +Wrote results for dcnv2 on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/dcnv2_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7892±0.0058 5%: 0.7963±0.0057 10%: 0.8000±0.0063 20%: 0.8084±0.0063 50%: 0.8080±0.0086 +covertype_test_precision 0%: 0.7886±0.0061 5%: 0.7942±0.0063 10%: 0.7972±0.0062 20%: 0.8075±0.0069 50%: 0.8054±0.0081 +covertype_test_recall 0%: 0.7892±0.0058 5%: 0.7963±0.0057 10%: 0.8000±0.0063 20%: 0.8084±0.0063 50%: 0.8080±0.0086 +covertype_test_f1-score 0%: 0.7868±0.0069 5%: 0.7940±0.0066 10%: 0.7972±0.0068 20%: 0.8064±0.0072 50%: 0.8054±0.0088 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'resnet'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpesy5r8mb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpesy5r8mb/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpesy5r8mb/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpesy5r8mb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 120.50it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7607607841491699 │ +│ covertype_val_f1-score │ 0.7603185772895813 │ +│ covertype_val_loss │ 0.570374071598053 │ +│ covertype_val_precision │ 0.7617413401603699 │ +│ covertype_val_recall │ 0.7607607841491699 │ +│ covertype_val_score │ 0.7607607841491699 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 414.59it/s +Validation metrics: [{'covertype_val_loss': 0.570374071598053, 'lr': 0.0, 'covertype_val_accuracy': 0.7607607841491699, 'covertype_val_precision': 0.7617413401603699, 'covertype_val_recall': 0.7607607841491699, 'covertype_val_f1-score': 0.7603185772895813, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7607607841491699}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 23 samples (1.15%) + Class 1: 972 samples (48.60%) + Class 2: 744 samples (37.20%) + Class 3: 67 samples (3.35%) + Class 4: 117 samples (5.85%) + Class 5: 73 samples (3.65%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7774999737739563 │ +│ covertype_test_f1-score │ 0.7776549458503723 │ +│ covertype_test_loss │ 0.5553393959999084 │ +│ covertype_test_precision │ 0.7796820402145386 │ +│ covertype_test_recall │ 0.7774999737739563 │ +│ covertype_test_score │ 0.7774999737739563 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 405.98it/s +Test metrics: [{'covertype_test_loss': 0.5553393959999084, 'lr': 0.0, 'covertype_test_accuracy': 0.7774999737739563, 'covertype_test_precision': 0.7796820402145386, 'covertype_test_recall': 0.7774999737739563, 'covertype_test_f1-score': 0.7776549458503723, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7774999737739563}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 20 samples (1.05%) + Class 1: 963 samples (50.68%) + Class 2: 742 samples (39.05%) + Class 3: 62 samples (3.26%) + Class 4: 59 samples (3.11%) + Class 5: 54 samples (2.84%) +============================================================ +covertype_test_accuracy 5% removed: 0.7826 +covertype_test_precision 5% removed: 0.7841 +covertype_test_recall 5% removed: 0.7826 +covertype_test_f1-score 5% removed: 0.7823 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 20 samples (1.11%) + Class 1: 929 samples (51.61%) + Class 2: 726 samples (40.33%) + Class 3: 62 samples (3.44%) + Class 4: 39 samples (2.17%) + Class 5: 24 samples (1.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.7883 +covertype_test_precision 10% removed: 0.7875 +covertype_test_recall 10% removed: 0.7883 +covertype_test_f1-score 10% removed: 0.7872 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 18 samples (1.12%) + Class 1: 815 samples (50.94%) + Class 2: 666 samples (41.62%) + Class 3: 60 samples (3.75%) + Class 4: 29 samples (1.81%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.7937 +covertype_test_precision 20% removed: 0.7955 +covertype_test_recall 20% removed: 0.7937 +covertype_test_f1-score 20% removed: 0.7935 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 513 samples (51.30%) + Class 2: 428 samples (42.80%) + Class 3: 43 samples (4.30%) + Class 4: 7 samples (0.70%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7840 +covertype_test_precision 50% removed: 0.7865 +covertype_test_recall 50% removed: 0.7840 +covertype_test_f1-score 50% removed: 0.7840 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpesy5r8mb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpesy5r8mb/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpesy5r8mb/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpesy5r8mb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 197.72it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7577577829360962 │ +│ covertype_val_f1-score │ 0.7511006593704224 │ +│ covertype_val_loss │ 0.6016677021980286 │ +│ covertype_val_precision │ 0.7488529682159424 │ +│ covertype_val_recall │ 0.7577577829360962 │ +│ covertype_val_score │ 0.7577577829360962 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 421.89it/s +Validation metrics: [{'covertype_val_loss': 0.6016677021980286, 'lr': 0.0, 'covertype_val_accuracy': 0.7577577829360962, 'covertype_val_precision': 0.7488529682159424, 'covertype_val_recall': 0.7577577829360962, 'covertype_val_f1-score': 0.7511006593704224, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7577577829360962}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 27 samples (1.35%) + Class 1: 1013 samples (50.65%) + Class 2: 750 samples (37.50%) + Class 3: 42 samples (2.10%) + Class 4: 123 samples (6.15%) + Class 5: 42 samples (2.10%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7799999713897705 │ +│ covertype_test_f1-score │ 0.7773597240447998 │ +│ covertype_test_loss │ 0.5635535717010498 │ +│ covertype_test_precision │ 0.7796871662139893 │ +│ covertype_test_recall │ 0.7799999713897705 │ +│ covertype_test_score │ 0.7799999713897705 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 467.19it/s +Test metrics: [{'covertype_test_loss': 0.5635535717010498, 'lr': 0.0, 'covertype_test_accuracy': 0.7799999713897705, 'covertype_test_precision': 0.7796871662139893, 'covertype_test_recall': 0.7799999713897705, 'covertype_test_f1-score': 0.7773597240447998, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7799999713897705}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 26 samples (1.37%) + Class 1: 993 samples (52.26%) + Class 2: 746 samples (39.26%) + Class 3: 39 samples (2.05%) + Class 4: 66 samples (3.47%) + Class 5: 30 samples (1.58%) +============================================================ +covertype_test_accuracy 5% removed: 0.7858 +covertype_test_precision 5% removed: 0.7842 +covertype_test_recall 5% removed: 0.7858 +covertype_test_f1-score 5% removed: 0.7835 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 24 samples (1.33%) + Class 1: 957 samples (53.17%) + Class 2: 729 samples (40.50%) + Class 3: 39 samples (2.17%) + Class 4: 34 samples (1.89%) + Class 5: 17 samples (0.94%) +============================================================ +covertype_test_accuracy 10% removed: 0.7878 +covertype_test_precision 10% removed: 0.7851 +covertype_test_recall 10% removed: 0.7878 +covertype_test_f1-score 10% removed: 0.7851 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 16 samples (1.00%) + Class 1: 855 samples (53.44%) + Class 2: 656 samples (41.00%) + Class 3: 39 samples (2.44%) + Class 4: 25 samples (1.56%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7937 +covertype_test_precision 20% removed: 0.7919 +covertype_test_recall 20% removed: 0.7937 +covertype_test_f1-score 20% removed: 0.7912 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 551 samples (55.10%) + Class 2: 410 samples (41.00%) + Class 3: 24 samples (2.40%) + Class 4: 4 samples (0.40%) + Class 5: 4 samples (0.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.7850 +covertype_test_precision 50% removed: 0.7870 +covertype_test_recall 50% removed: 0.7850 +covertype_test_f1-score 50% removed: 0.7829 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpesy5r8mb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpesy5r8mb/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpesy5r8mb/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpesy5r8mb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 78.60it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7487487196922302 │ +│ covertype_val_f1-score │ 0.7443365454673767 │ +│ covertype_val_loss │ 0.6014463305473328 │ +│ covertype_val_precision │ 0.7472679615020752 │ +│ covertype_val_recall │ 0.7487487196922302 │ +│ covertype_val_score │ 0.7487487196922302 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 405.50it/s +Validation metrics: [{'covertype_val_loss': 0.6014463305473328, 'lr': 0.0, 'covertype_val_accuracy': 0.7487487196922302, 'covertype_val_precision': 0.7472679615020752, 'covertype_val_recall': 0.7487487196922302, 'covertype_val_f1-score': 0.7443365454673767, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7487487196922302}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 919 samples (45.95%) + Class 2: 822 samples (41.10%) + Class 3: 59 samples (2.95%) + Class 4: 124 samples (6.20%) + Class 5: 53 samples (2.65%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7605000138282776 │ +│ covertype_test_f1-score │ 0.7595755457878113 │ +│ covertype_test_loss │ 0.5729711055755615 │ +│ covertype_test_precision │ 0.7660059332847595 │ +│ covertype_test_recall │ 0.7605000138282776 │ +│ covertype_test_score │ 0.7605000138282776 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 204.43it/s +Test metrics: [{'covertype_test_loss': 0.5729711055755615, 'lr': 0.0, 'covertype_test_accuracy': 0.7605000138282776, 'covertype_test_precision': 0.7660059332847595, 'covertype_test_recall': 0.7605000138282776, 'covertype_test_f1-score': 0.7595755457878113, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7605000138282776}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 16 samples (0.84%) + Class 1: 911 samples (47.95%) + Class 2: 819 samples (43.11%) + Class 3: 55 samples (2.89%) + Class 4: 62 samples (3.26%) + Class 5: 35 samples (1.84%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7653 +covertype_test_precision 5% removed: 0.7704 +covertype_test_recall 5% removed: 0.7653 +covertype_test_f1-score 5% removed: 0.7643 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 875 samples (48.61%) + Class 2: 803 samples (44.61%) + Class 3: 55 samples (3.06%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7700 +covertype_test_precision 10% removed: 0.7750 +covertype_test_recall 10% removed: 0.7700 +covertype_test_f1-score 10% removed: 0.7684 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 764 samples (47.75%) + Class 2: 733 samples (45.81%) + Class 3: 53 samples (3.31%) + Class 4: 28 samples (1.75%) + Class 5: 7 samples (0.44%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7738 +covertype_test_precision 20% removed: 0.7813 +covertype_test_recall 20% removed: 0.7738 +covertype_test_f1-score 20% removed: 0.7732 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 475 samples (47.50%) + Class 2: 468 samples (46.80%) + Class 3: 40 samples (4.00%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7640 +covertype_test_precision 50% removed: 0.7695 +covertype_test_recall 50% removed: 0.7640 +covertype_test_f1-score 50% removed: 0.7636 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpesy5r8mb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpesy5r8mb/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpesy5r8mb/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpesy5r8mb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 40/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 103.48it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7617617845535278 │ +│ covertype_val_f1-score │ 0.7608532905578613 │ +│ covertype_val_loss │ 0.5938799977302551 │ +│ covertype_val_precision │ 0.766292154788971 │ +│ covertype_val_recall │ 0.7617617845535278 │ +│ covertype_val_score │ 0.7617617845535278 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0005000000237487257 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 405.23it/s +Validation metrics: [{'covertype_val_loss': 0.5938799977302551, 'lr': 0.0005000000237487257, 'covertype_val_accuracy': 0.7617617845535278, 'covertype_val_precision': 0.766292154788971, 'covertype_val_recall': 0.7617617845535278, 'covertype_val_f1-score': 0.7608532905578613, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7617617845535278}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1044 samples (52.20%) + Class 2: 681 samples (34.05%) + Class 3: 67 samples (3.35%) + Class 4: 95 samples (4.75%) + Class 5: 92 samples (4.60%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7804999947547913 │ +│ covertype_test_f1-score │ 0.7800887823104858 │ +│ covertype_test_loss │ 0.5437047481536865 │ +│ covertype_test_precision │ 0.7833890318870544 │ +│ covertype_test_recall │ 0.7804999947547913 │ +│ covertype_test_score │ 0.7804999947547913 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0005000000819563866 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 290.87it/s +Test metrics: [{'covertype_test_loss': 0.5437047481536865, 'lr': 0.0005000000819563866, 'covertype_test_accuracy': 0.7804999947547913, 'covertype_test_precision': 0.7833890318870544, 'covertype_test_recall': 0.7804999947547913, 'covertype_test_f1-score': 0.7800887823104858, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7804999947547913}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 1029 samples (54.16%) + Class 2: 678 samples (35.68%) + Class 3: 63 samples (3.32%) + Class 4: 48 samples (2.53%) + Class 5: 66 samples (3.47%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7884 +covertype_test_precision 5% removed: 0.7915 +covertype_test_recall 5% removed: 0.7884 +covertype_test_f1-score 5% removed: 0.7872 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 999 samples (55.50%) + Class 2: 660 samples (36.67%) + Class 3: 63 samples (3.50%) + Class 4: 37 samples (2.06%) + Class 5: 25 samples (1.39%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7989 +covertype_test_precision 10% removed: 0.7983 +covertype_test_recall 10% removed: 0.7989 +covertype_test_f1-score 10% removed: 0.7966 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 889 samples (55.56%) + Class 2: 598 samples (37.38%) + Class 3: 61 samples (3.81%) + Class 4: 28 samples (1.75%) + Class 5: 12 samples (0.75%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.8025 +covertype_test_precision 20% removed: 0.8030 +covertype_test_recall 20% removed: 0.8025 +covertype_test_f1-score 20% removed: 0.8004 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 572 samples (57.20%) + Class 2: 370 samples (37.00%) + Class 3: 45 samples (4.50%) + Class 4: 5 samples (0.50%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.8030 +covertype_test_precision 50% removed: 0.8055 +covertype_test_recall 50% removed: 0.8030 +covertype_test_f1-score 50% removed: 0.8005 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpesy5r8mb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpesy5r8mb/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpesy5r8mb/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpesy5r8mb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 103.70it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7777777910232544 │ +│ covertype_val_f1-score │ 0.7718968987464905 │ +│ covertype_val_loss │ 0.5536530613899231 │ +│ covertype_val_precision │ 0.7691987156867981 │ +│ covertype_val_recall │ 0.7777777910232544 │ +│ covertype_val_score │ 0.7777777910232544 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0005000000237487257 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 132.94it/s +Validation metrics: [{'covertype_val_loss': 0.5536530613899231, 'lr': 0.0005000000237487257, 'covertype_val_accuracy': 0.7777777910232544, 'covertype_val_precision': 0.7691987156867981, 'covertype_val_recall': 0.7777777910232544, 'covertype_val_f1-score': 0.7718968987464905, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7777777910232544}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 24 samples (1.20%) + Class 1: 1036 samples (51.80%) + Class 2: 706 samples (35.30%) + Class 3: 60 samples (3.00%) + Class 4: 130 samples (6.50%) + Class 5: 41 samples (2.05%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7799999713897705 │ +│ covertype_test_f1-score │ 0.7772597074508667 │ +│ covertype_test_loss │ 0.5729074478149414 │ +│ covertype_test_precision │ 0.7775949239730835 │ +│ covertype_test_recall │ 0.7799999713897705 │ +│ covertype_test_score │ 0.7799999713897705 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0005000000819563866 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 95.28it/s +Test metrics: [{'covertype_test_loss': 0.5729074478149414, 'lr': 0.0005000000819563866, 'covertype_test_accuracy': 0.7799999713897705, 'covertype_test_precision': 0.7775949239730835, 'covertype_test_recall': 0.7799999713897705, 'covertype_test_f1-score': 0.7772597074508667, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7799999713897705}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 21 samples (1.11%) + Class 1: 1016 samples (53.47%) + Class 2: 703 samples (37.00%) + Class 3: 56 samples (2.95%) + Class 4: 73 samples (3.84%) + Class 5: 31 samples (1.63%) +============================================================ +covertype_test_accuracy 5% removed: 0.7863 +covertype_test_precision 5% removed: 0.7836 +covertype_test_recall 5% removed: 0.7863 +covertype_test_f1-score 5% removed: 0.7843 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 21 samples (1.17%) + Class 1: 978 samples (54.33%) + Class 2: 687 samples (38.17%) + Class 3: 56 samples (3.11%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.7911 +covertype_test_precision 10% removed: 0.7884 +covertype_test_recall 10% removed: 0.7911 +covertype_test_f1-score 10% removed: 0.7893 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (1.06%) + Class 1: 872 samples (54.50%) + Class 2: 618 samples (38.62%) + Class 3: 54 samples (3.38%) + Class 4: 27 samples (1.69%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.7969 +covertype_test_precision 20% removed: 0.7968 +covertype_test_recall 20% removed: 0.7969 +covertype_test_f1-score 20% removed: 0.7961 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 568 samples (56.80%) + Class 2: 379 samples (37.90%) + Class 3: 38 samples (3.80%) + Class 4: 6 samples (0.60%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7910 +covertype_test_precision 50% removed: 0.7928 +covertype_test_recall 50% removed: 0.7910 +covertype_test_f1-score 50% removed: 0.7893 +Wrote results for resnet on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/resnet_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7757±0.0106 5%: 0.7817±0.0117 10%: 0.7872±0.0132 20%: 0.7921±0.0135 50%: 0.7854±0.0176 +covertype_test_precision 0%: 0.7773±0.0082 5%: 0.7828±0.0095 10%: 0.7869±0.0104 20%: 0.7937±0.0099 50%: 0.7882±0.0161 +covertype_test_recall 0%: 0.7757±0.0106 5%: 0.7817±0.0117 10%: 0.7872±0.0132 20%: 0.7921±0.0135 50%: 0.7854±0.0176 +covertype_test_f1-score 0%: 0.7744±0.0104 5%: 0.7803±0.0113 10%: 0.7853±0.0129 20%: 0.7909±0.0130 50%: 0.7841±0.0166 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'autoint'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpqwdsw9rf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpqwdsw9rf/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpqwdsw9rf/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpqwdsw9rf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 46/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 67.74it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7437437176704407 │ +│ covertype_val_f1-score │ 0.7404190897941589 │ +│ covertype_val_loss │ 0.624549388885498 │ +│ covertype_val_precision │ 0.7409075498580933 │ +│ covertype_val_recall │ 0.7437437176704407 │ +│ covertype_val_score │ 0.7437437176704407 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 86.12it/s +Validation metrics: [{'covertype_val_loss': 0.624549388885498, 'lr': 8.856373824528418e-06, 'covertype_val_accuracy': 0.7437437176704407, 'covertype_val_precision': 0.7409075498580933, 'covertype_val_recall': 0.7437437176704407, 'covertype_val_f1-score': 0.7404190897941589, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7437437176704407}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 983 samples (49.15%) + Class 2: 750 samples (37.50%) + Class 3: 56 samples (2.80%) + Class 4: 132 samples (6.60%) + Class 5: 59 samples (2.95%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7580000162124634 │ +│ covertype_test_f1-score │ 0.7569433450698853 │ +│ covertype_test_loss │ 0.5974035859107971 │ +│ covertype_test_precision │ 0.7595743536949158 │ +│ covertype_test_recall │ 0.7580000162124634 │ +│ covertype_test_score │ 0.7580000162124634 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 232.52it/s +Test metrics: [{'covertype_test_loss': 0.5974035859107971, 'lr': 8.856373824528418e-06, 'covertype_test_accuracy': 0.7580000162124634, 'covertype_test_precision': 0.7595743536949158, 'covertype_test_recall': 0.7580000162124634, 'covertype_test_f1-score': 0.7569433450698853, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7580000162124634}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 973 samples (51.21%) + Class 2: 748 samples (39.37%) + Class 3: 51 samples (2.68%) + Class 4: 64 samples (3.37%) + Class 5: 48 samples (2.53%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7647 +covertype_test_precision 5% removed: 0.7665 +covertype_test_recall 5% removed: 0.7647 +covertype_test_f1-score 5% removed: 0.7637 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 943 samples (52.39%) + Class 2: 730 samples (40.56%) + Class 3: 51 samples (2.83%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7683 +covertype_test_precision 10% removed: 0.7684 +covertype_test_recall 10% removed: 0.7683 +covertype_test_f1-score 10% removed: 0.7667 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 838 samples (52.38%) + Class 2: 661 samples (41.31%) + Class 3: 50 samples (3.12%) + Class 4: 27 samples (1.69%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7763 +covertype_test_precision 20% removed: 0.7773 +covertype_test_recall 20% removed: 0.7763 +covertype_test_f1-score 20% removed: 0.7750 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 537 samples (53.70%) + Class 2: 415 samples (41.50%) + Class 3: 34 samples (3.40%) + Class 4: 6 samples (0.60%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7660 +covertype_test_precision 50% removed: 0.7675 +covertype_test_recall 50% removed: 0.7660 +covertype_test_f1-score 50% removed: 0.7647 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpqwdsw9rf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpqwdsw9rf/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpqwdsw9rf/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpqwdsw9rf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 64.77it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7617617845535278 │ +│ covertype_val_f1-score │ 0.7591469287872314 │ +│ covertype_val_loss │ 0.6332592964172363 │ +│ covertype_val_precision │ 0.7613129019737244 │ +│ covertype_val_recall │ 0.7617617845535278 │ +│ covertype_val_score │ 0.7617617845535278 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 53.82it/s +Validation metrics: [{'covertype_val_loss': 0.6332592964172363, 'lr': 0.0, 'covertype_val_accuracy': 0.7617617845535278, 'covertype_val_precision': 0.7613129019737244, 'covertype_val_recall': 0.7617617845535278, 'covertype_val_f1-score': 0.7591469287872314, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7617617845535278}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 21 samples (1.05%) + Class 1: 999 samples (49.95%) + Class 2: 729 samples (36.45%) + Class 3: 56 samples (2.80%) + Class 4: 133 samples (6.65%) + Class 5: 59 samples (2.95%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7639999985694885 │ +│ covertype_test_f1-score │ 0.762946367263794 │ +│ covertype_test_loss │ 0.6216718554496765 │ +│ covertype_test_precision │ 0.7643885612487793 │ +│ covertype_test_recall │ 0.7639999985694885 │ +│ covertype_test_score │ 0.7639999985694885 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 110.39it/s +Test metrics: [{'covertype_test_loss': 0.6216718554496765, 'lr': 0.0, 'covertype_test_accuracy': 0.7639999985694885, 'covertype_test_precision': 0.7643885612487793, 'covertype_test_recall': 0.7639999985694885, 'covertype_test_f1-score': 0.762946367263794, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7639999985694885}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 20 samples (1.05%) + Class 1: 990 samples (52.11%) + Class 2: 726 samples (38.21%) + Class 3: 52 samples (2.74%) + Class 4: 69 samples (3.63%) + Class 5: 43 samples (2.26%) +============================================================ +covertype_test_accuracy 5% removed: 0.7726 +covertype_test_precision 5% removed: 0.7705 +covertype_test_recall 5% removed: 0.7726 +covertype_test_f1-score 5% removed: 0.7711 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 20 samples (1.11%) + Class 1: 956 samples (53.11%) + Class 2: 710 samples (39.44%) + Class 3: 52 samples (2.89%) + Class 4: 40 samples (2.22%) + Class 5: 22 samples (1.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.7739 +covertype_test_precision 10% removed: 0.7709 +covertype_test_recall 10% removed: 0.7739 +covertype_test_f1-score 10% removed: 0.7720 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (1.06%) + Class 1: 855 samples (53.44%) + Class 2: 637 samples (39.81%) + Class 3: 51 samples (3.19%) + Class 4: 30 samples (1.88%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7806 +covertype_test_precision 20% removed: 0.7791 +covertype_test_recall 20% removed: 0.7806 +covertype_test_f1-score 20% removed: 0.7792 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 551 samples (55.10%) + Class 2: 399 samples (39.90%) + Class 3: 35 samples (3.50%) + Class 4: 7 samples (0.70%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7780 +covertype_test_precision 50% removed: 0.7758 +covertype_test_recall 50% removed: 0.7780 +covertype_test_f1-score 50% removed: 0.7759 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpqwdsw9rf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpqwdsw9rf/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpqwdsw9rf/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpqwdsw9rf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 46/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 95.23it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7457457184791565 │ +│ covertype_val_f1-score │ 0.7432175278663635 │ +│ covertype_val_loss │ 0.6286348700523376 │ +│ covertype_val_precision │ 0.7444679141044617 │ +│ covertype_val_recall │ 0.7457457184791565 │ +│ covertype_val_score │ 0.7457457184791565 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 160.88it/s +Validation metrics: [{'covertype_val_loss': 0.6286348700523376, 'lr': 8.856373824528418e-06, 'covertype_val_accuracy': 0.7457457184791565, 'covertype_val_precision': 0.7444679141044617, 'covertype_val_recall': 0.7457457184791565, 'covertype_val_f1-score': 0.7432175278663635, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7457457184791565}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 1006 samples (50.30%) + Class 2: 730 samples (36.50%) + Class 3: 60 samples (3.00%) + Class 4: 127 samples (6.35%) + Class 5: 59 samples (2.95%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7519999742507935 │ +│ covertype_test_f1-score │ 0.7507104873657227 │ +│ covertype_test_loss │ 0.5956538319587708 │ +│ covertype_test_precision │ 0.7531260848045349 │ +│ covertype_test_recall │ 0.7519999742507935 │ +│ covertype_test_score │ 0.7519999742507935 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 210.76it/s +Test metrics: [{'covertype_test_loss': 0.5956538319587708, 'lr': 8.856373824528418e-06, 'covertype_test_accuracy': 0.7519999742507935, 'covertype_test_precision': 0.7531260848045349, 'covertype_test_recall': 0.7519999742507935, 'covertype_test_f1-score': 0.7507104873657227, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7519999742507935}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 992 samples (52.21%) + Class 2: 727 samples (38.26%) + Class 3: 56 samples (2.95%) + Class 4: 62 samples (3.26%) + Class 5: 50 samples (2.63%) +============================================================ +covertype_test_accuracy 5% removed: 0.7595 +covertype_test_precision 5% removed: 0.7596 +covertype_test_recall 5% removed: 0.7595 +covertype_test_f1-score 5% removed: 0.7579 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 962 samples (53.44%) + Class 2: 708 samples (39.33%) + Class 3: 56 samples (3.11%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7639 +covertype_test_precision 10% removed: 0.7620 +covertype_test_recall 10% removed: 0.7639 +covertype_test_f1-score 10% removed: 0.7614 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 857 samples (53.56%) + Class 2: 635 samples (39.69%) + Class 3: 54 samples (3.38%) + Class 4: 29 samples (1.81%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.7719 +covertype_test_precision 20% removed: 0.7716 +covertype_test_recall 20% removed: 0.7719 +covertype_test_f1-score 20% removed: 0.7704 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 558 samples (55.80%) + Class 2: 390 samples (39.00%) + Class 3: 39 samples (3.90%) + Class 4: 7 samples (0.70%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7570 +covertype_test_precision 50% removed: 0.7539 +covertype_test_recall 50% removed: 0.7570 +covertype_test_f1-score 50% removed: 0.7538 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpqwdsw9rf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpqwdsw9rf/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpqwdsw9rf/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpqwdsw9rf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 37/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 82.68it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7477477192878723 │ +│ covertype_val_f1-score │ 0.7463166117668152 │ +│ covertype_val_loss │ 0.6126933097839355 │ +│ covertype_val_precision │ 0.7521369457244873 │ +│ covertype_val_recall │ 0.7477477192878723 │ +│ covertype_val_score │ 0.7477477192878723 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.00013551570009440184 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 96.04it/s +Validation metrics: [{'covertype_val_loss': 0.6126933097839355, 'lr': 0.00013551570009440184, 'covertype_val_accuracy': 0.7477477192878723, 'covertype_val_precision': 0.7521369457244873, 'covertype_val_recall': 0.7477477192878723, 'covertype_val_f1-score': 0.7463166117668152, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7477477192878723}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 12 samples (0.60%) + Class 1: 996 samples (49.80%) + Class 2: 776 samples (38.80%) + Class 3: 35 samples (1.75%) + Class 4: 106 samples (5.30%) + Class 5: 67 samples (3.35%) + Class 6: 8 samples (0.40%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7559999823570251 │ +│ covertype_test_f1-score │ 0.7536635994911194 │ +│ covertype_test_loss │ 0.5971259474754333 │ +│ covertype_test_precision │ 0.7592275738716125 │ +│ covertype_test_recall │ 0.7559999823570251 │ +│ covertype_test_score │ 0.7559999823570251 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0001355156855424866 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 93.92it/s +Test metrics: [{'covertype_test_loss': 0.5971259474754333, 'lr': 0.0001355156855424866, 'covertype_test_accuracy': 0.7559999823570251, 'covertype_test_precision': 0.7592275738716125, 'covertype_test_recall': 0.7559999823570251, 'covertype_test_f1-score': 0.7536635994911194, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7559999823570251}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 12 samples (0.63%) + Class 1: 980 samples (51.58%) + Class 2: 774 samples (40.74%) + Class 3: 31 samples (1.63%) + Class 4: 49 samples (2.58%) + Class 5: 51 samples (2.68%) + Class 6: 3 samples (0.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.7605 +covertype_test_precision 5% removed: 0.7656 +covertype_test_recall 5% removed: 0.7605 +covertype_test_f1-score 5% removed: 0.7582 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 11 samples (0.61%) + Class 1: 947 samples (52.61%) + Class 2: 757 samples (42.06%) + Class 3: 31 samples (1.72%) + Class 4: 30 samples (1.67%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7672 +covertype_test_precision 10% removed: 0.7707 +covertype_test_recall 10% removed: 0.7672 +covertype_test_f1-score 10% removed: 0.7643 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 841 samples (52.56%) + Class 2: 683 samples (42.69%) + Class 3: 31 samples (1.94%) + Class 4: 26 samples (1.62%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7713 +covertype_test_precision 20% removed: 0.7762 +covertype_test_recall 20% removed: 0.7713 +covertype_test_f1-score 20% removed: 0.7683 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 536 samples (53.60%) + Class 2: 430 samples (43.00%) + Class 3: 21 samples (2.10%) + Class 4: 7 samples (0.70%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7670 +covertype_test_precision 50% removed: 0.7710 +covertype_test_recall 50% removed: 0.7670 +covertype_test_f1-score 50% removed: 0.7642 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpqwdsw9rf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpqwdsw9rf/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpqwdsw9rf/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpqwdsw9rf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 44/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 41.74it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7487487196922302 │ +│ covertype_val_f1-score │ 0.7435986399650574 │ +│ covertype_val_loss │ 0.6323559284210205 │ +│ covertype_val_precision │ 0.7424569725990295 │ +│ covertype_val_recall │ 0.7487487196922302 │ +│ covertype_val_score │ 0.7487487196922302 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 2.4471739379805513e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 85.84it/s +Validation metrics: [{'covertype_val_loss': 0.6323559284210205, 'lr': 2.4471739379805513e-05, 'covertype_val_accuracy': 0.7487487196922302, 'covertype_val_precision': 0.7424569725990295, 'covertype_val_recall': 0.7487487196922302, 'covertype_val_f1-score': 0.7435986399650574, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7487487196922302}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 10 samples (0.50%) + Class 1: 1014 samples (50.70%) + Class 2: 723 samples (36.15%) + Class 3: 58 samples (2.90%) + Class 4: 130 samples (6.50%) + Class 5: 62 samples (3.10%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7484999895095825 │ +│ covertype_test_f1-score │ 0.7456518411636353 │ +│ covertype_test_loss │ 0.6007217764854431 │ +│ covertype_test_precision │ 0.7472615838050842 │ +│ covertype_test_recall │ 0.7484999895095825 │ +│ covertype_test_score │ 0.7484999895095825 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 2.4471744836773723e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 84.44it/s +Test metrics: [{'covertype_test_loss': 0.6007217764854431, 'lr': 2.4471744836773723e-05, 'covertype_test_accuracy': 0.7484999895095825, 'covertype_test_precision': 0.7472615838050842, 'covertype_test_recall': 0.7484999895095825, 'covertype_test_f1-score': 0.7456518411636353, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7484999895095825}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 7 samples (0.37%) + Class 1: 1004 samples (52.84%) + Class 2: 721 samples (37.95%) + Class 3: 53 samples (2.79%) + Class 4: 64 samples (3.37%) + Class 5: 51 samples (2.68%) +============================================================ +covertype_test_accuracy 5% removed: 0.7553 +covertype_test_precision 5% removed: 0.7540 +covertype_test_recall 5% removed: 0.7553 +covertype_test_f1-score 5% removed: 0.7520 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 7 samples (0.39%) + Class 1: 972 samples (54.00%) + Class 2: 704 samples (39.11%) + Class 3: 53 samples (2.94%) + Class 4: 38 samples (2.11%) + Class 5: 26 samples (1.44%) +============================================================ +covertype_test_accuracy 10% removed: 0.7578 +covertype_test_precision 10% removed: 0.7548 +covertype_test_recall 10% removed: 0.7578 +covertype_test_f1-score 10% removed: 0.7537 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 867 samples (54.19%) + Class 2: 633 samples (39.56%) + Class 3: 52 samples (3.25%) + Class 4: 27 samples (1.69%) + Class 5: 14 samples (0.88%) +============================================================ +covertype_test_accuracy 20% removed: 0.7669 +covertype_test_precision 20% removed: 0.7652 +covertype_test_recall 20% removed: 0.7669 +covertype_test_f1-score 20% removed: 0.7635 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 562 samples (56.20%) + Class 2: 387 samples (38.70%) + Class 3: 37 samples (3.70%) + Class 4: 6 samples (0.60%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7590 +covertype_test_precision 50% removed: 0.7575 +covertype_test_recall 50% removed: 0.7590 +covertype_test_f1-score 50% removed: 0.7563 +Wrote results for autoint on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/autoint_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7557±0.0073 5%: 0.7625±0.0082 10%: 0.7662±0.0074 20%: 0.7734±0.0065 50%: 0.7654±0.0103 +covertype_test_precision 0%: 0.7567±0.0082 5%: 0.7632±0.0081 10%: 0.7653±0.0086 20%: 0.7739±0.0070 50%: 0.7651±0.0114 +covertype_test_recall 0%: 0.7557±0.0073 5%: 0.7625±0.0082 10%: 0.7662±0.0074 20%: 0.7734±0.0065 50%: 0.7654±0.0103 +covertype_test_f1-score 0%: 0.7540±0.0081 5%: 0.7606±0.0089 10%: 0.7636±0.0084 20%: 0.7713±0.0075 50%: 0.7630±0.0108 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'fttransformer'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpnc4nhlnj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpnc4nhlnj/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpnc4nhlnj/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpnc4nhlnj/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 78.44it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7527527809143066 │ +│ covertype_val_f1-score │ 0.7478923201560974 │ +│ covertype_val_loss │ 0.5976748466491699 │ +│ covertype_val_precision │ 0.7538198828697205 │ +│ covertype_val_recall │ 0.7527527809143066 │ +│ covertype_val_score │ 0.7527527809143066 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 191.33it/s +Validation metrics: [{'covertype_val_loss': 0.5976748466491699, 'lr': 0.0, 'covertype_val_accuracy': 0.7527527809143066, 'covertype_val_precision': 0.7538198828697205, 'covertype_val_recall': 0.7527527809143066, 'covertype_val_f1-score': 0.7478923201560974, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7527527809143066}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 9 samples (0.45%) + Class 1: 980 samples (49.00%) + Class 2: 767 samples (38.35%) + Class 3: 54 samples (2.70%) + Class 4: 145 samples (7.25%) + Class 5: 40 samples (2.00%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7419999837875366 │ +│ covertype_test_f1-score │ 0.7377408146858215 │ +│ covertype_test_loss │ 0.587950587272644 │ +│ covertype_test_precision │ 0.7415771484375 │ +│ covertype_test_recall │ 0.7419999837875366 │ +│ covertype_test_score │ 0.7419999837875366 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 188.96it/s +Test metrics: [{'covertype_test_loss': 0.587950587272644, 'lr': 0.0, 'covertype_test_accuracy': 0.7419999837875366, 'covertype_test_precision': 0.7415771484375, 'covertype_test_recall': 0.7419999837875366, 'covertype_test_f1-score': 0.7377408146858215, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7419999837875366}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 9 samples (0.47%) + Class 1: 970 samples (51.05%) + Class 2: 764 samples (40.21%) + Class 3: 50 samples (2.63%) + Class 4: 76 samples (4.00%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7511 +covertype_test_precision 5% removed: 0.7513 +covertype_test_recall 5% removed: 0.7511 +covertype_test_f1-score 5% removed: 0.7478 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 9 samples (0.50%) + Class 1: 941 samples (52.28%) + Class 2: 747 samples (41.50%) + Class 3: 50 samples (2.78%) + Class 4: 40 samples (2.22%) + Class 5: 12 samples (0.67%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7561 +covertype_test_precision 10% removed: 0.7569 +covertype_test_recall 10% removed: 0.7561 +covertype_test_f1-score 10% removed: 0.7528 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 839 samples (52.44%) + Class 2: 670 samples (41.88%) + Class 3: 49 samples (3.06%) + Class 4: 30 samples (1.88%) + Class 5: 4 samples (0.25%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7644 +covertype_test_precision 20% removed: 0.7660 +covertype_test_recall 20% removed: 0.7644 +covertype_test_f1-score 20% removed: 0.7611 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 529 samples (52.90%) + Class 2: 424 samples (42.40%) + Class 3: 34 samples (3.40%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7710 +covertype_test_precision 50% removed: 0.7706 +covertype_test_recall 50% removed: 0.7710 +covertype_test_f1-score 50% removed: 0.7687 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpnc4nhlnj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpnc4nhlnj/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpnc4nhlnj/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpnc4nhlnj/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 35.68it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7417417168617249 │ +│ covertype_val_f1-score │ 0.7361798882484436 │ +│ covertype_val_loss │ 0.5996973514556885 │ +│ covertype_val_precision │ 0.7392163276672363 │ +│ covertype_val_recall │ 0.7417417168617249 │ +│ covertype_val_score │ 0.7417417168617249 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 29.99it/s +Validation metrics: [{'covertype_val_loss': 0.5996973514556885, 'lr': 0.0, 'covertype_val_accuracy': 0.7417417168617249, 'covertype_val_precision': 0.7392163276672363, 'covertype_val_recall': 0.7417417168617249, 'covertype_val_f1-score': 0.7361798882484436, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7417417168617249}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 9 samples (0.45%) + Class 1: 964 samples (48.20%) + Class 2: 782 samples (39.10%) + Class 3: 58 samples (2.90%) + Class 4: 140 samples (7.00%) + Class 5: 43 samples (2.15%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7459999918937683 │ +│ covertype_test_f1-score │ 0.7428030371665955 │ +│ covertype_test_loss │ 0.5799676775932312 │ +│ covertype_test_precision │ 0.7492867112159729 │ +│ covertype_test_recall │ 0.7459999918937683 │ +│ covertype_test_score │ 0.7459999918937683 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 170.15it/s +Test metrics: [{'covertype_test_loss': 0.5799676775932312, 'lr': 0.0, 'covertype_test_accuracy': 0.7459999918937683, 'covertype_test_precision': 0.7492867112159729, 'covertype_test_recall': 0.7459999918937683, 'covertype_test_f1-score': 0.7428030371665955, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7459999918937683}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 9 samples (0.47%) + Class 1: 952 samples (50.11%) + Class 2: 781 samples (41.11%) + Class 3: 52 samples (2.74%) + Class 4: 67 samples (3.53%) + Class 5: 38 samples (2.00%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7532 +covertype_test_precision 5% removed: 0.7574 +covertype_test_recall 5% removed: 0.7532 +covertype_test_f1-score 5% removed: 0.7512 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 9 samples (0.50%) + Class 1: 918 samples (51.00%) + Class 2: 763 samples (42.39%) + Class 3: 52 samples (2.89%) + Class 4: 40 samples (2.22%) + Class 5: 17 samples (0.94%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7550 +covertype_test_precision 10% removed: 0.7584 +covertype_test_recall 10% removed: 0.7550 +covertype_test_f1-score 10% removed: 0.7525 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 818 samples (51.12%) + Class 2: 682 samples (42.62%) + Class 3: 52 samples (3.25%) + Class 4: 29 samples (1.81%) + Class 5: 9 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7631 +covertype_test_precision 20% removed: 0.7664 +covertype_test_recall 20% removed: 0.7631 +covertype_test_f1-score 20% removed: 0.7615 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 519 samples (51.90%) + Class 2: 431 samples (43.10%) + Class 3: 37 samples (3.70%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7630 +covertype_test_precision 50% removed: 0.7634 +covertype_test_recall 50% removed: 0.7630 +covertype_test_f1-score 50% removed: 0.7611 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpnc4nhlnj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpnc4nhlnj/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpnc4nhlnj/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpnc4nhlnj/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 31.58it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7387387156486511 │ +│ covertype_val_f1-score │ 0.7327550053596497 │ +│ covertype_val_loss │ 0.589042603969574 │ +│ covertype_val_precision │ 0.7346060872077942 │ +│ covertype_val_recall │ 0.7387387156486511 │ +│ covertype_val_score │ 0.7387387156486511 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 69.55it/s +Validation metrics: [{'covertype_val_loss': 0.589042603969574, 'lr': 0.0, 'covertype_val_accuracy': 0.7387387156486511, 'covertype_val_precision': 0.7346060872077942, 'covertype_val_recall': 0.7387387156486511, 'covertype_val_f1-score': 0.7327550053596497, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7387387156486511}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 11 samples (0.55%) + Class 1: 988 samples (49.40%) + Class 2: 749 samples (37.45%) + Class 3: 57 samples (2.85%) + Class 4: 150 samples (7.50%) + Class 5: 40 samples (2.00%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.746999979019165 │ +│ covertype_test_f1-score │ 0.7436726689338684 │ +│ covertype_test_loss │ 0.5759727954864502 │ +│ covertype_test_precision │ 0.7479371428489685 │ +│ covertype_test_recall │ 0.746999979019165 │ +│ covertype_test_score │ 0.746999979019165 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 84.77it/s +Test metrics: [{'covertype_test_loss': 0.5759727954864502, 'lr': 0.0, 'covertype_test_accuracy': 0.746999979019165, 'covertype_test_precision': 0.7479371428489685, 'covertype_test_recall': 0.746999979019165, 'covertype_test_f1-score': 0.7436726689338684, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.746999979019165}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 10 samples (0.53%) + Class 1: 978 samples (51.47%) + Class 2: 747 samples (39.32%) + Class 3: 52 samples (2.74%) + Class 4: 78 samples (4.11%) + Class 5: 34 samples (1.79%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7542 +covertype_test_precision 5% removed: 0.7551 +covertype_test_recall 5% removed: 0.7542 +covertype_test_f1-score 5% removed: 0.7518 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 10 samples (0.56%) + Class 1: 949 samples (52.72%) + Class 2: 728 samples (40.44%) + Class 3: 52 samples (2.89%) + Class 4: 47 samples (2.61%) + Class 5: 13 samples (0.72%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7567 +covertype_test_precision 10% removed: 0.7570 +covertype_test_recall 10% removed: 0.7567 +covertype_test_f1-score 10% removed: 0.7536 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 846 samples (52.88%) + Class 2: 654 samples (40.88%) + Class 3: 51 samples (3.19%) + Class 4: 35 samples (2.19%) + Class 5: 4 samples (0.25%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7656 +covertype_test_precision 20% removed: 0.7665 +covertype_test_recall 20% removed: 0.7656 +covertype_test_f1-score 20% removed: 0.7628 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 538 samples (53.80%) + Class 2: 409 samples (40.90%) + Class 3: 36 samples (3.60%) + Class 4: 8 samples (0.80%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7630 +covertype_test_precision 50% removed: 0.7632 +covertype_test_recall 50% removed: 0.7630 +covertype_test_f1-score 50% removed: 0.7622 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpnc4nhlnj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpnc4nhlnj/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpnc4nhlnj/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpnc4nhlnj/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 77.32it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7457457184791565 │ +│ covertype_val_f1-score │ 0.7403092980384827 │ +│ covertype_val_loss │ 0.587259829044342 │ +│ covertype_val_precision │ 0.7387169003486633 │ +│ covertype_val_recall │ 0.7457457184791565 │ +│ covertype_val_score │ 0.7457457184791565 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 238.76it/s +Validation metrics: [{'covertype_val_loss': 0.587259829044342, 'lr': 0.0, 'covertype_val_accuracy': 0.7457457184791565, 'covertype_val_precision': 0.7387169003486633, 'covertype_val_recall': 0.7457457184791565, 'covertype_val_f1-score': 0.7403092980384827, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7457457184791565}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1043 samples (52.15%) + Class 2: 707 samples (35.35%) + Class 3: 51 samples (2.55%) + Class 4: 140 samples (7.00%) + Class 5: 36 samples (1.80%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7519999742507935 │ +│ covertype_test_f1-score │ 0.7484055757522583 │ +│ covertype_test_loss │ 0.5663378238677979 │ +│ covertype_test_precision │ 0.7503706216812134 │ +│ covertype_test_recall │ 0.7519999742507935 │ +│ covertype_test_score │ 0.7519999742507935 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 221.88it/s +Test metrics: [{'covertype_test_loss': 0.5663378238677979, 'lr': 0.0, 'covertype_test_accuracy': 0.7519999742507935, 'covertype_test_precision': 0.7503706216812134, 'covertype_test_recall': 0.7519999742507935, 'covertype_test_f1-score': 0.7484055757522583, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7519999742507935}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 1033 samples (54.37%) + Class 2: 705 samples (37.11%) + Class 3: 46 samples (2.42%) + Class 4: 70 samples (3.68%) + Class 5: 28 samples (1.47%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7595 +covertype_test_precision 5% removed: 0.7586 +covertype_test_recall 5% removed: 0.7595 +covertype_test_f1-score 5% removed: 0.7570 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 998 samples (55.44%) + Class 2: 689 samples (38.28%) + Class 3: 46 samples (2.56%) + Class 4: 42 samples (2.33%) + Class 5: 7 samples (0.39%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7639 +covertype_test_precision 10% removed: 0.7652 +covertype_test_recall 10% removed: 0.7639 +covertype_test_f1-score 10% removed: 0.7608 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (1.06%) + Class 1: 886 samples (55.38%) + Class 2: 615 samples (38.44%) + Class 3: 46 samples (2.88%) + Class 4: 33 samples (2.06%) + Class 5: 2 samples (0.12%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7738 +covertype_test_precision 20% removed: 0.7751 +covertype_test_recall 20% removed: 0.7738 +covertype_test_f1-score 20% removed: 0.7714 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 12 samples (1.20%) + Class 1: 567 samples (56.70%) + Class 2: 378 samples (37.80%) + Class 3: 35 samples (3.50%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7770 +covertype_test_precision 50% removed: 0.7744 +covertype_test_recall 50% removed: 0.7770 +covertype_test_f1-score 50% removed: 0.7746 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpnc4nhlnj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpnc4nhlnj/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpnc4nhlnj/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpnc4nhlnj/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 33.16it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7577577829360962 │ +│ covertype_val_f1-score │ 0.7495256662368774 │ +│ covertype_val_loss │ 0.5809991359710693 │ +│ covertype_val_precision │ 0.7482515573501587 │ +│ covertype_val_recall │ 0.7577577829360962 │ +│ covertype_val_score │ 0.7577577829360962 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 50.07it/s +Validation metrics: [{'covertype_val_loss': 0.5809991359710693, 'lr': 0.0, 'covertype_val_accuracy': 0.7577577829360962, 'covertype_val_precision': 0.7482515573501587, 'covertype_val_recall': 0.7577577829360962, 'covertype_val_f1-score': 0.7495256662368774, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7577577829360962}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 11 samples (0.55%) + Class 1: 989 samples (49.45%) + Class 2: 751 samples (37.55%) + Class 3: 55 samples (2.75%) + Class 4: 148 samples (7.40%) + Class 5: 40 samples (2.00%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7519999742507935 │ +│ covertype_test_f1-score │ 0.749092698097229 │ +│ covertype_test_loss │ 0.5713794231414795 │ +│ covertype_test_precision │ 0.7541799545288086 │ +│ covertype_test_recall │ 0.7519999742507935 │ +│ covertype_test_score │ 0.7519999742507935 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 102.46it/s +Test metrics: [{'covertype_test_loss': 0.5713794231414795, 'lr': 0.0, 'covertype_test_accuracy': 0.7519999742507935, 'covertype_test_precision': 0.7541799545288086, 'covertype_test_recall': 0.7519999742507935, 'covertype_test_f1-score': 0.749092698097229, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7519999742507935}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 998 samples (52.53%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 63 samples (3.32%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 11 samples (0.58%) + Class 1: 981 samples (51.63%) + Class 2: 748 samples (39.37%) + Class 3: 51 samples (2.68%) + Class 4: 74 samples (3.89%) + Class 5: 34 samples (1.79%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7621 +covertype_test_precision 5% removed: 0.7639 +covertype_test_recall 5% removed: 0.7621 +covertype_test_f1-score 5% removed: 0.7601 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 957 samples (53.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 36 samples (2.00%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 11 samples (0.61%) + Class 1: 950 samples (52.78%) + Class 2: 731 samples (40.61%) + Class 3: 51 samples (2.83%) + Class 4: 44 samples (2.44%) + Class 5: 12 samples (0.67%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7639 +covertype_test_precision 10% removed: 0.7655 +covertype_test_recall 10% removed: 0.7639 +covertype_test_f1-score 10% removed: 0.7613 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 28 samples (1.75%) + Class 1: 852 samples (53.25%) + Class 2: 626 samples (39.12%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 852 samples (53.25%) + Class 2: 647 samples (40.44%) + Class 3: 51 samples (3.19%) + Class 4: 31 samples (1.94%) + Class 5: 7 samples (0.44%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7713 +covertype_test_precision 20% removed: 0.7720 +covertype_test_recall 20% removed: 0.7713 +covertype_test_f1-score 20% removed: 0.7695 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 530 samples (53.00%) + Class 2: 407 samples (40.70%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 539 samples (53.90%) + Class 2: 408 samples (40.80%) + Class 3: 36 samples (3.60%) + Class 4: 9 samples (0.90%) +============================================================ +covertype_test_accuracy 50% removed: 0.7620 +covertype_test_precision 50% removed: 0.7603 +covertype_test_recall 50% removed: 0.7620 +covertype_test_f1-score 50% removed: 0.7603 +Wrote results for fttransformer on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/fttransformer_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7478±0.0053 5%: 0.7560±0.0057 10%: 0.7591±0.0055 20%: 0.7676±0.0057 50%: 0.7672±0.0082 +covertype_test_precision 0%: 0.7487±0.0057 5%: 0.7573±0.0057 10%: 0.7606±0.0055 20%: 0.7692±0.0051 50%: 0.7664±0.0073 +covertype_test_recall 0%: 0.7478±0.0053 5%: 0.7560±0.0057 10%: 0.7591±0.0055 20%: 0.7676±0.0057 50%: 0.7672±0.0082 +covertype_test_f1-score 0%: 0.7443±0.0057 5%: 0.7536±0.0060 10%: 0.7562±0.0055 20%: 0.7653±0.0060 50%: 0.7654±0.0076 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'xgboost'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=xgboost --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy --use_split_assignments=True --exp_train_total_epochs=1 --split_config_file=/tmp/tmpssd0_wz7/split_data/split_config.json --sigma_aggregation=mean --n_estimators=100 --max_depth=3 --learning_rate=0.1 --subsample=1.0 --colsample_bytree=1.0 --reg_alpha=0.0 --reg_lambda=1.0 --n_jobs=-1 --random_state=42 --encoder_type=linear_flatten --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpssd0_wz7/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 64 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ -1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.0001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ xgboost │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpssd0_wz7/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpssd0_wz7/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 1e-05 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: xgboost + +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +XGBoostLightning [1, 3456] [1, 3456] -- -- -- +===================================================================================================================================================================== +Total params: 0 +Trainable params: 0 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 0 +===================================================================================================================================================================== +Input size (MB): 0.01 +Forward/backward pass size (MB): 0.00 +Params size (MB): 0.00 +Estimated Total Size (MB): 0.01 +===================================================================================================================================================================== +GPU available: True (cuda), used: False +TPU available: False, using: 0 TPU cores +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/setup.py:175: GPU available but not used. You can set it by doing `Trainer(accelerator='gpu')`. +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1)` was configured so 1 batch per epoch will be used. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/core/optimizer.py:183: `LightningModule.configure_optimizers` returned `None`, this fit will run with no optimizer +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Identity │ 0 │ train │ 0 │ +│ 2 │ encoder │ Identity │ 0 │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 0 +Non-trainable params: 0 +Total params: 0 +Total estimated model params size (MB): 0.000 +Modules in train mode: 3 +Modules in eval mode: 0 +Total FLOPs: 0 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue2-gpu2-kl5e-8.log b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue2-gpu2-kl5e-8.log new file mode 100644 index 0000000000000000000000000000000000000000..f7d150d123507c3438a2223a4d92811189ad0b98 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue2-gpu2-kl5e-8.log @@ -0,0 +1,16965 @@ +[2026-09-17T16:46:30+00:00] tag=queue2-gpu2-kl5e-8 gpu=2 dataset=covertype predictive_kl_end=0.00000005 full=0.001875 sx=0.00075 +{ + "dataset": "covertype", + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "5e-08", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} +Not SLURM job. +╒══════════════════════════════════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ mock │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ activation_checkpointing │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ deterministic_mode │ warn │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pre_evaluation │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 512 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 500 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ improvement │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_val_cache_cadence │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ init_type │ trunc_normal │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_start_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_lr │ 0.0005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 12 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_ipe_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_gradient_clipping │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_type_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_index_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dropout_prob │ 0.0015 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_hidden │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_feedforward │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_heads │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_layers │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_act_func │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_cadence │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_model │ linear_probe │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ n_cls_tokens │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_type │ transformer │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_layers │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_embed_dim │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_heads │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_p_dropout │ 0.002 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_activation │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_dim_feedforward │ 256 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_allow_overlap │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_ctx_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_ctx_share │ 0.35 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_trgt_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_trgt_share │ 0.6 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_preds │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_encs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mu_init_std │ 0.03 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_std │ 0.005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_bias │ -4.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_x_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_y_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_evaluation_epochs │ 50 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_probe_patience │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_representation_type │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_encoder_type │ target_posterior │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_target_posterior │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_auxiliary_encoder │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_end_weight │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_end_weight │ 5e-08 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_annealing_epochs │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_x_weight │ 0.001 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_y_weight │ 0.5 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ latent_architecture │ stochastic │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ jepa_objective │ w_jepa_joint │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_full_num_projections │ 2048 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_marginal_num_projections │ 1024 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_p │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_include_marginals │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_x_weight │ 0.00075 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_z_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_y_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_end_weight │ 0.001875 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ safe_exit │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_selection │ filtered_20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sigma_aggregation │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ subset_size │ -1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ is_batchlearning │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ iteration │ 0 │ +╘══════════════════════════════════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════╛ + +CUDA Device Information: +CUDA_VISIBLE_DEVICES: 2 +Number of CUDA devices: 1 +Current CUDA device: 0 +CUDA device name: NVIDIA A100-SXM4-80GB + +Using device: cuda:0 +Device name: NVIDIA A100-SXM4-80GB +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +VariationalTJEPA parameters: ++-------------------------+---------+ +| Parameter | Value | ++=========================+=========+ +| hidden_dim | 64 | ++-------------------------+---------+ +| num_layers | 8 | ++-------------------------+---------+ +| num_heads | 8 | ++-------------------------+---------+ +| p_dropout | 0.0015 | ++-------------------------+---------+ +| layer_norm_eps | 1e-05 | ++-------------------------+---------+ +| feature_type_embedding | True | ++-------------------------+---------+ +| feature_index_embedding | True | ++-------------------------+---------+ +| dim_feedforward | 64 | ++-------------------------+---------+ +| use_reg_token | True | ++-------------------------+---------+ +| gradient_clipping | 1.0 | ++-------------------------+---------+ +| activation | gelu | ++-------------------------+---------+ +| num_features | 54 | ++-------------------------+---------+ +| n_cls_tokens | 1 | ++-------------------------+---------+ +MaskCollator params: +----------------- ----- +Allow overlap False +Min context share 0.15 +Max context share 0.35 +Min target share 0.15 +Max target share 0.6 +Min context 8 +Max context 18 +Min target 8 +Max target 32 +Num preds 4 +Num encs 1 +Num features 54 +Cardinalities [] +Base mask seed 0 +----------------- ----- +KL-x annealing: start=0.0 for 20 steps, then anneal to 1e-06 over 1200 steps. +KL-z annealing: start=0.0 for 20 steps, then anneal to 1e-05 over 1200 steps. +KL-y annealing: start=0.0 for 20 steps, then anneal to 5e-08 over 400 steps. +W-JEPA marginal-scale annealing (s_x): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (z): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (s_y): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +Configuration saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/vtjepa_config.yaml +All results will be saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713 +[VTJEPA] Running downstream probe before training begins +Using full dataset for embedding generation: covertype +Generating embedding using: JEPAEmbeddingEncoder on full dataset + 0%| | 0/20 [00:00= 15) +[VTJEPA] Early stopping triggered at epoch 48 + Best downstream validation score: 0.755000 at epoch 17 + No improvement for 15 probe evaluations +Restored best downstream-selected checkpoint from epoch 17. +Training completed. +[2026-09-17T17:11:11+00:00] tag=queue2-gpu2-kl5e-8 dataset=covertype starting downstream models=mlp,dcnv2,resnet,autoint,fttransformer,xgboost +[Config] Loaded sigma_aggregation=mean from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/vtjepa_config.yaml +[Config] Loaded training data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/vtjepa_config.yaml +Split statistics: + val: 999 samples + test: 2000 samples + train: 7001 samples +Running downstream for dataset 'covertype', model 'mlp'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmppm_4nytq/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmppm_4nytq/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmppm_4nytq/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmppm_4nytq/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 164.98it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7157157063484192 │ +│ covertype_val_f1-score │ 0.6985940337181091 │ +│ covertype_val_loss │ 0.7163488268852234 │ +│ covertype_val_precision │ 0.7150012254714966 │ +│ covertype_val_recall │ 0.7157157063484192 │ +│ covertype_val_score │ 0.7157157063484192 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 252.62it/s +Validation metrics: [{'covertype_val_loss': 0.7163488268852234, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7157157063484192, 'covertype_val_precision': 0.7150012254714966, 'covertype_val_recall': 0.7157157063484192, 'covertype_val_f1-score': 0.6985940337181091, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7157157063484192}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 925 samples (46.25%) + Class 2: 831 samples (41.55%) + Class 3: 27 samples (1.35%) + Class 4: 198 samples (9.90%) + Class 5: 19 samples (0.95%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6980000138282776 │ +│ covertype_test_f1-score │ 0.6839081048965454 │ +│ covertype_test_loss │ 0.7166121006011963 │ +│ covertype_test_precision │ 0.6887496709823608 │ +│ covertype_test_recall │ 0.6980000138282776 │ +│ covertype_test_score │ 0.6980000138282776 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 175.43it/s +Test metrics: [{'covertype_test_loss': 0.7166121006011963, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6980000138282776, 'covertype_test_precision': 0.6887496709823608, 'covertype_test_recall': 0.6980000138282776, 'covertype_test_f1-score': 0.6839081048965454, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6980000138282776}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 912 samples (48.00%) + Class 2: 823 samples (43.32%) + Class 3: 27 samples (1.42%) + Class 4: 119 samples (6.26%) + Class 5: 19 samples (1.00%) +============================================================ +covertype_test_accuracy 5% removed: 0.7042 +covertype_test_precision 5% removed: 0.6993 +covertype_test_recall 5% removed: 0.7042 +covertype_test_f1-score 5% removed: 0.6941 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 886 samples (49.22%) + Class 2: 811 samples (45.06%) + Class 3: 26 samples (1.44%) + Class 4: 60 samples (3.33%) + Class 5: 17 samples (0.94%) +============================================================ +covertype_test_accuracy 10% removed: 0.7122 +covertype_test_precision 10% removed: 0.7078 +covertype_test_recall 10% removed: 0.7122 +covertype_test_f1-score 10% removed: 0.7041 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 781 samples (48.81%) + Class 2: 748 samples (46.75%) + Class 3: 23 samples (1.44%) + Class 4: 37 samples (2.31%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7194 +covertype_test_precision 20% removed: 0.7171 +covertype_test_recall 20% removed: 0.7194 +covertype_test_f1-score 20% removed: 0.7117 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 511 samples (51.10%) + Class 2: 460 samples (46.00%) + Class 3: 23 samples (2.30%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7390 +covertype_test_precision 50% removed: 0.7302 +covertype_test_recall 50% removed: 0.7390 +covertype_test_f1-score 50% removed: 0.7304 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmppm_4nytq/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmppm_4nytq/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmppm_4nytq/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmppm_4nytq/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 42/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 217.62it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.6106106042861938 │ +│ covertype_val_f1-score │ 0.5915918350219727 │ +│ covertype_val_loss │ 0.7888356447219849 │ +│ covertype_val_precision │ 0.6645563244819641 │ +│ covertype_val_recall │ 0.6106106042861938 │ +│ covertype_val_score │ 0.6106106042861938 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 396.50it/s +Validation metrics: [{'covertype_val_loss': 0.7888356447219849, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.6106106042861938, 'covertype_val_precision': 0.6645563244819641, 'covertype_val_recall': 0.6106106042861938, 'covertype_val_f1-score': 0.5915918350219727, 'covertype_val_support': 999.0, 'covertype_val_score': 0.6106106042861938}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 538 samples (26.90%) + Class 2: 1235 samples (61.75%) + Class 3: 53 samples (2.65%) + Class 4: 131 samples (6.55%) + Class 5: 42 samples (2.10%) + Class 6: 1 samples (0.05%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6305000185966492 │ +│ covertype_test_f1-score │ 0.6094961166381836 │ +│ covertype_test_loss │ 0.7735602259635925 │ +│ covertype_test_precision │ 0.6936728358268738 │ +│ covertype_test_recall │ 0.6305000185966492 │ +│ covertype_test_score │ 0.6305000185966492 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 452.51it/s +Test metrics: [{'covertype_test_loss': 0.7735602259635925, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6305000185966492, 'covertype_test_precision': 0.6936728358268738, 'covertype_test_recall': 0.6305000185966492, 'covertype_test_f1-score': 0.6094961166381836, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6305000185966492}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 525 samples (27.63%) + Class 2: 1222 samples (64.32%) + Class 3: 53 samples (2.79%) + Class 4: 62 samples (3.26%) + Class 5: 38 samples (2.00%) +============================================================ +covertype_test_accuracy 5% removed: 0.6274 +covertype_test_precision 5% removed: 0.6913 +covertype_test_recall 5% removed: 0.6274 +covertype_test_f1-score 5% removed: 0.6068 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 507 samples (28.17%) + Class 2: 1190 samples (66.11%) + Class 3: 53 samples (2.94%) + Class 4: 41 samples (2.28%) + Class 5: 9 samples (0.50%) +============================================================ +covertype_test_accuracy 10% removed: 0.6383 +covertype_test_precision 10% removed: 0.7018 +covertype_test_recall 10% removed: 0.6383 +covertype_test_f1-score 10% removed: 0.6170 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 431 samples (26.94%) + Class 2: 1086 samples (67.88%) + Class 3: 50 samples (3.12%) + Class 4: 28 samples (1.75%) + Class 5: 5 samples (0.31%) +============================================================ +covertype_test_accuracy 20% removed: 0.6475 +covertype_test_precision 20% removed: 0.7200 +covertype_test_recall 20% removed: 0.6475 +covertype_test_f1-score 20% removed: 0.6259 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 245 samples (24.50%) + Class 2: 703 samples (70.30%) + Class 3: 46 samples (4.60%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.6560 +covertype_test_precision 50% removed: 0.7324 +covertype_test_recall 50% removed: 0.6560 +covertype_test_f1-score 50% removed: 0.6321 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmppm_4nytq/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmppm_4nytq/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmppm_4nytq/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmppm_4nytq/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 36/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 168.22it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7207207083702087 │ +│ covertype_val_f1-score │ 0.7120976448059082 │ +│ covertype_val_loss │ 0.6910231113433838 │ +│ covertype_val_precision │ 0.7054557800292969 │ +│ covertype_val_recall │ 0.7207207083702087 │ +│ covertype_val_score │ 0.7207207083702087 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 185.45it/s +Validation metrics: [{'covertype_val_loss': 0.6910231113433838, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7207207083702087, 'covertype_val_precision': 0.7054557800292969, 'covertype_val_recall': 0.7207207083702087, 'covertype_val_f1-score': 0.7120976448059082, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7207207083702087}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 3 samples (0.15%) + Class 1: 1092 samples (54.60%) + Class 2: 708 samples (35.40%) + Class 3: 47 samples (2.35%) + Class 4: 98 samples (4.90%) + Class 5: 52 samples (2.60%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7225000262260437 │ +│ covertype_test_f1-score │ 0.7134593725204468 │ +│ covertype_test_loss │ 0.6525415778160095 │ +│ covertype_test_precision │ 0.7068562507629395 │ +│ covertype_test_recall │ 0.7225000262260437 │ +│ covertype_test_score │ 0.7225000262260437 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 281.54it/s +Test metrics: [{'covertype_test_loss': 0.6525415778160095, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7225000262260437, 'covertype_test_precision': 0.7068562507629395, 'covertype_test_recall': 0.7225000262260437, 'covertype_test_f1-score': 0.7134593725204468, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7225000262260437}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 2 samples (0.11%) + Class 1: 1061 samples (55.84%) + Class 2: 702 samples (36.95%) + Class 3: 46 samples (2.42%) + Class 4: 50 samples (2.63%) + Class 5: 39 samples (2.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7289 +covertype_test_precision 5% removed: 0.7149 +covertype_test_recall 5% removed: 0.7289 +covertype_test_f1-score 5% removed: 0.7207 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 2 samples (0.11%) + Class 1: 1018 samples (56.56%) + Class 2: 689 samples (38.28%) + Class 3: 46 samples (2.56%) + Class 4: 37 samples (2.06%) + Class 5: 8 samples (0.44%) +============================================================ +covertype_test_accuracy 10% removed: 0.7328 +covertype_test_precision 10% removed: 0.7169 +covertype_test_recall 10% removed: 0.7328 +covertype_test_f1-score 10% removed: 0.7235 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 897 samples (56.06%) + Class 2: 628 samples (39.25%) + Class 3: 43 samples (2.69%) + Class 4: 28 samples (1.75%) + Class 5: 3 samples (0.19%) +============================================================ +covertype_test_accuracy 20% removed: 0.7400 +covertype_test_precision 20% removed: 0.7261 +covertype_test_recall 20% removed: 0.7400 +covertype_test_f1-score 20% removed: 0.7317 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 586 samples (58.60%) + Class 2: 368 samples (36.80%) + Class 3: 40 samples (4.00%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7540 +covertype_test_precision 50% removed: 0.7429 +covertype_test_recall 50% removed: 0.7540 +covertype_test_f1-score 50% removed: 0.7450 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmppm_4nytq/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmppm_4nytq/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmppm_4nytq/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmppm_4nytq/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 31/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 122.62it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.6926926970481873 │ +│ covertype_val_f1-score │ 0.6755410432815552 │ +│ covertype_val_loss │ 0.731346070766449 │ +│ covertype_val_precision │ 0.698237419128418 │ +│ covertype_val_recall │ 0.6926926970481873 │ +│ covertype_val_score │ 0.6926926970481873 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 461.69it/s +Validation metrics: [{'covertype_val_loss': 0.731346070766449, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.6926926970481873, 'covertype_val_precision': 0.698237419128418, 'covertype_val_recall': 0.6926926970481873, 'covertype_val_f1-score': 0.6755410432815552, 'covertype_val_support': 999.0, 'covertype_val_score': 0.6926926970481873}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 740 samples (37.00%) + Class 2: 1035 samples (51.75%) + Class 3: 65 samples (3.25%) + Class 4: 143 samples (7.15%) + Class 5: 11 samples (0.55%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6875 │ +│ covertype_test_f1-score │ 0.6723741888999939 │ +│ covertype_test_loss │ 0.725175678730011 │ +│ covertype_test_precision │ 0.7034978866577148 │ +│ covertype_test_recall │ 0.6875 │ +│ covertype_test_score │ 0.6875 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 150.80it/s +Test metrics: [{'covertype_test_loss': 0.725175678730011, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6875, 'covertype_test_precision': 0.7034978866577148, 'covertype_test_recall': 0.6875, 'covertype_test_f1-score': 0.6723741888999939, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6875}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 721 samples (37.95%) + Class 2: 1024 samples (53.89%) + Class 3: 64 samples (3.37%) + Class 4: 81 samples (4.26%) + Class 5: 9 samples (0.47%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.6879 +covertype_test_precision 5% removed: 0.7094 +covertype_test_recall 5% removed: 0.6879 +covertype_test_f1-score 5% removed: 0.6752 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 689 samples (38.28%) + Class 2: 1004 samples (55.78%) + Class 3: 63 samples (3.50%) + Class 4: 43 samples (2.39%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.6933 +covertype_test_precision 10% removed: 0.7088 +covertype_test_recall 10% removed: 0.6933 +covertype_test_f1-score 10% removed: 0.6808 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 588 samples (36.75%) + Class 2: 921 samples (57.56%) + Class 3: 60 samples (3.75%) + Class 4: 30 samples (1.88%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.6988 +covertype_test_precision 20% removed: 0.7209 +covertype_test_recall 20% removed: 0.6988 +covertype_test_f1-score 20% removed: 0.6873 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 356 samples (35.60%) + Class 2: 584 samples (58.40%) + Class 3: 54 samples (5.40%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7150 +covertype_test_precision 50% removed: 0.7375 +covertype_test_recall 50% removed: 0.7150 +covertype_test_f1-score 50% removed: 0.7057 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmppm_4nytq/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmppm_4nytq/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmppm_4nytq/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmppm_4nytq/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 29/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 172.55it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7197197079658508 │ +│ covertype_val_f1-score │ 0.712709903717041 │ +│ covertype_val_loss │ 0.6889582276344299 │ +│ covertype_val_precision │ 0.721903920173645 │ +│ covertype_val_recall │ 0.7197197079658508 │ +│ covertype_val_score │ 0.7197197079658508 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 158.35it/s +Validation metrics: [{'covertype_val_loss': 0.6889582276344299, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7197197079658508, 'covertype_val_precision': 0.721903920173645, 'covertype_val_recall': 0.7197197079658508, 'covertype_val_f1-score': 0.712709903717041, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7197197079658508}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 977 samples (48.85%) + Class 2: 746 samples (37.30%) + Class 3: 71 samples (3.55%) + Class 4: 181 samples (9.05%) + Class 5: 21 samples (1.05%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7110000252723694 │ +│ covertype_test_f1-score │ 0.7009379863739014 │ +│ covertype_test_loss │ 0.6703633069992065 │ +│ covertype_test_precision │ 0.7004453539848328 │ +│ covertype_test_recall │ 0.7110000252723694 │ +│ covertype_test_score │ 0.7110000252723694 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 104.56it/s +Test metrics: [{'covertype_test_loss': 0.6703633069992065, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7110000252723694, 'covertype_test_precision': 0.7004453539848328, 'covertype_test_recall': 0.7110000252723694, 'covertype_test_f1-score': 0.7009379863739014, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7110000252723694}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 967 samples (50.89%) + Class 2: 740 samples (38.95%) + Class 3: 70 samples (3.68%) + Class 4: 101 samples (5.32%) + Class 5: 21 samples (1.11%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7179 +covertype_test_precision 5% removed: 0.7080 +covertype_test_recall 5% removed: 0.7179 +covertype_test_f1-score 5% removed: 0.7102 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 938 samples (52.11%) + Class 2: 728 samples (40.44%) + Class 3: 69 samples (3.83%) + Class 4: 46 samples (2.56%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7239 +covertype_test_precision 10% removed: 0.7134 +covertype_test_recall 10% removed: 0.7239 +covertype_test_f1-score 10% removed: 0.7177 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 830 samples (51.88%) + Class 2: 665 samples (41.56%) + Class 3: 66 samples (4.12%) + Class 4: 30 samples (1.88%) + Class 5: 8 samples (0.50%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7319 +covertype_test_precision 20% removed: 0.7209 +covertype_test_recall 20% removed: 0.7319 +covertype_test_f1-score 20% removed: 0.7259 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 546 samples (54.60%) + Class 2: 390 samples (39.00%) + Class 3: 58 samples (5.80%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7410 +covertype_test_precision 50% removed: 0.7285 +covertype_test_recall 50% removed: 0.7410 +covertype_test_f1-score 50% removed: 0.7336 +Wrote results for mlp on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/mlp_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.6899±0.0444 5%: 0.6933±0.0495 10%: 0.7001±0.0466 20%: 0.7075±0.0459 50%: 0.7210±0.0484 +covertype_test_precision 0%: 0.6986±0.0091 5%: 0.7046±0.0115 10%: 0.7097±0.0071 20%: 0.7210±0.0040 50%: 0.7343±0.0073 +covertype_test_recall 0%: 0.6899±0.0444 5%: 0.6933±0.0495 10%: 0.7001±0.0466 20%: 0.7075±0.0459 50%: 0.7210±0.0484 +covertype_test_f1-score 0%: 0.6760±0.0501 5%: 0.6814±0.0560 10%: 0.6886±0.0537 20%: 0.6965±0.0534 50%: 0.7094±0.0565 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'dcnv2'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_ijd2p68/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp_ijd2p68/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_ijd2p68/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_ijd2p68/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 122.03it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7687687873840332 │ +│ covertype_val_f1-score │ 0.7617077231407166 │ +│ covertype_val_loss │ 0.5714991092681885 │ +│ covertype_val_precision │ 0.7587548494338989 │ +│ covertype_val_recall │ 0.7687687873840332 │ +│ covertype_val_score │ 0.7687687873840332 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 120.18it/s +Validation metrics: [{'covertype_val_loss': 0.5714991092681885, 'lr': 0.0, 'covertype_val_accuracy': 0.7687687873840332, 'covertype_val_precision': 0.7587548494338989, 'covertype_val_recall': 0.7687687873840332, 'covertype_val_f1-score': 0.7617077231407166, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7687687873840332}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 1012 samples (50.60%) + Class 2: 720 samples (36.00%) + Class 3: 57 samples (2.85%) + Class 4: 139 samples (6.95%) + Class 5: 50 samples (2.50%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7860000133514404 │ +│ covertype_test_f1-score │ 0.7844112515449524 │ +│ covertype_test_loss │ 0.5786256790161133 │ +│ covertype_test_precision │ 0.7862875461578369 │ +│ covertype_test_recall │ 0.7860000133514404 │ +│ covertype_test_score │ 0.7860000133514404 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 176.47it/s +Test metrics: [{'covertype_test_loss': 0.5786256790161133, 'lr': 0.0, 'covertype_test_accuracy': 0.7860000133514404, 'covertype_test_precision': 0.7862875461578369, 'covertype_test_recall': 0.7860000133514404, 'covertype_test_f1-score': 0.7844112515449524, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7860000133514404}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 991 samples (52.16%) + Class 2: 715 samples (37.63%) + Class 3: 56 samples (2.95%) + Class 4: 72 samples (3.79%) + Class 5: 48 samples (2.53%) +============================================================ +covertype_test_accuracy 5% removed: 0.7932 +covertype_test_precision 5% removed: 0.7921 +covertype_test_recall 5% removed: 0.7932 +covertype_test_f1-score 5% removed: 0.7919 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 18 samples (1.00%) + Class 1: 959 samples (53.28%) + Class 2: 702 samples (39.00%) + Class 3: 55 samples (3.06%) + Class 4: 45 samples (2.50%) + Class 5: 21 samples (1.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7994 +covertype_test_precision 10% removed: 0.7974 +covertype_test_recall 10% removed: 0.7994 +covertype_test_f1-score 10% removed: 0.7977 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 16 samples (1.00%) + Class 1: 849 samples (53.06%) + Class 2: 644 samples (40.25%) + Class 3: 51 samples (3.19%) + Class 4: 29 samples (1.81%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.8069 +covertype_test_precision 20% removed: 0.8063 +covertype_test_recall 20% removed: 0.8069 +covertype_test_f1-score 20% removed: 0.8059 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 526 samples (52.60%) + Class 2: 415 samples (41.50%) + Class 3: 45 samples (4.50%) + Class 4: 6 samples (0.60%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8130 +covertype_test_precision 50% removed: 0.8127 +covertype_test_recall 50% removed: 0.8130 +covertype_test_f1-score 50% removed: 0.8117 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_ijd2p68/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp_ijd2p68/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_ijd2p68/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_ijd2p68/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 42/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 117.13it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7647647857666016 │ +│ covertype_val_f1-score │ 0.7597588896751404 │ +│ covertype_val_loss │ 0.5634096264839172 │ +│ covertype_val_precision │ 0.757598876953125 │ +│ covertype_val_recall │ 0.7647647857666016 │ +│ covertype_val_score │ 0.7647647857666016 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 4.758647264679894e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 69.60it/s +Validation metrics: [{'covertype_val_loss': 0.5634096264839172, 'lr': 4.758647264679894e-05, 'covertype_val_accuracy': 0.7647647857666016, 'covertype_val_precision': 0.757598876953125, 'covertype_val_recall': 0.7647647857666016, 'covertype_val_f1-score': 0.7597588896751404, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7647647857666016}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 1025 samples (51.25%) + Class 2: 710 samples (35.50%) + Class 3: 58 samples (2.90%) + Class 4: 129 samples (6.45%) + Class 5: 55 samples (2.75%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7854999899864197 │ +│ covertype_test_f1-score │ 0.7838026285171509 │ +│ covertype_test_loss │ 0.5459070205688477 │ +│ covertype_test_precision │ 0.7843406200408936 │ +│ covertype_test_recall │ 0.7854999899864197 │ +│ covertype_test_score │ 0.7854999899864197 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 4.758647264679894e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 145.45it/s +Test metrics: [{'covertype_test_loss': 0.5459070205688477, 'lr': 4.758647264679894e-05, 'covertype_test_accuracy': 0.7854999899864197, 'covertype_test_precision': 0.7843406200408936, 'covertype_test_recall': 0.7854999899864197, 'covertype_test_f1-score': 0.7838026285171509, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7854999899864197}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 1004 samples (52.84%) + Class 2: 705 samples (37.11%) + Class 3: 57 samples (3.00%) + Class 4: 65 samples (3.42%) + Class 5: 52 samples (2.74%) +============================================================ +covertype_test_accuracy 5% removed: 0.7911 +covertype_test_precision 5% removed: 0.7888 +covertype_test_recall 5% removed: 0.7911 +covertype_test_f1-score 5% removed: 0.7892 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 973 samples (54.06%) + Class 2: 692 samples (38.44%) + Class 3: 56 samples (3.11%) + Class 4: 38 samples (2.11%) + Class 5: 25 samples (1.39%) +============================================================ +covertype_test_accuracy 10% removed: 0.7972 +covertype_test_precision 10% removed: 0.7945 +covertype_test_recall 10% removed: 0.7972 +covertype_test_f1-score 10% removed: 0.7950 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 864 samples (54.00%) + Class 2: 631 samples (39.44%) + Class 3: 53 samples (3.31%) + Class 4: 27 samples (1.69%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.8050 +covertype_test_precision 20% removed: 0.8038 +covertype_test_recall 20% removed: 0.8050 +covertype_test_f1-score 20% removed: 0.8033 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 535 samples (53.50%) + Class 2: 402 samples (40.20%) + Class 3: 47 samples (4.70%) + Class 4: 7 samples (0.70%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8090 +covertype_test_precision 50% removed: 0.8078 +covertype_test_recall 50% removed: 0.8090 +covertype_test_f1-score 50% removed: 0.8073 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_ijd2p68/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp_ijd2p68/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_ijd2p68/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_ijd2p68/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 88.61it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.781781792640686 │ +│ covertype_val_f1-score │ 0.7775187492370605 │ +│ covertype_val_loss │ 0.5506885051727295 │ +│ covertype_val_precision │ 0.7754359245300293 │ +│ covertype_val_recall │ 0.781781792640686 │ +│ covertype_val_score │ 0.781781792640686 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 69.85it/s +Validation metrics: [{'covertype_val_loss': 0.5506885051727295, 'lr': 0.0, 'covertype_val_accuracy': 0.781781792640686, 'covertype_val_precision': 0.7754359245300293, 'covertype_val_recall': 0.781781792640686, 'covertype_val_f1-score': 0.7775187492370605, 'covertype_val_support': 999.0, 'covertype_val_score': 0.781781792640686}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1040 samples (52.00%) + Class 2: 699 samples (34.95%) + Class 3: 59 samples (2.95%) + Class 4: 137 samples (6.85%) + Class 5: 46 samples (2.30%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7940000295639038 │ +│ covertype_test_f1-score │ 0.7912221550941467 │ +│ covertype_test_loss │ 0.569226086139679 │ +│ covertype_test_precision │ 0.7928335666656494 │ +│ covertype_test_recall │ 0.7940000295639038 │ +│ covertype_test_score │ 0.7940000295639038 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 97.35it/s +Test metrics: [{'covertype_test_loss': 0.569226086139679, 'lr': 0.0, 'covertype_test_accuracy': 0.7940000295639038, 'covertype_test_precision': 0.7928335666656494, 'covertype_test_recall': 0.7940000295639038, 'covertype_test_f1-score': 0.7912221550941467, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7940000295639038}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 1019 samples (53.63%) + Class 2: 693 samples (36.47%) + Class 3: 58 samples (3.05%) + Class 4: 72 samples (3.79%) + Class 5: 43 samples (2.26%) +============================================================ +covertype_test_accuracy 5% removed: 0.7995 +covertype_test_precision 5% removed: 0.7970 +covertype_test_recall 5% removed: 0.7995 +covertype_test_f1-score 5% removed: 0.7972 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 987 samples (54.83%) + Class 2: 680 samples (37.78%) + Class 3: 57 samples (3.17%) + Class 4: 42 samples (2.33%) + Class 5: 19 samples (1.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.8067 +covertype_test_precision 10% removed: 0.8030 +covertype_test_recall 10% removed: 0.8067 +covertype_test_f1-score 10% removed: 0.8038 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 879 samples (54.94%) + Class 2: 615 samples (38.44%) + Class 3: 55 samples (3.44%) + Class 4: 27 samples (1.69%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.8169 +covertype_test_precision 20% removed: 0.8148 +covertype_test_recall 20% removed: 0.8169 +covertype_test_f1-score 20% removed: 0.8149 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 551 samples (55.10%) + Class 2: 388 samples (38.80%) + Class 3: 48 samples (4.80%) + Class 4: 6 samples (0.60%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8220 +covertype_test_precision 50% removed: 0.8217 +covertype_test_recall 50% removed: 0.8220 +covertype_test_f1-score 50% removed: 0.8194 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_ijd2p68/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp_ijd2p68/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_ijd2p68/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_ijd2p68/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 100.38it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7757757902145386 │ +│ covertype_val_f1-score │ 0.7701118588447571 │ +│ covertype_val_loss │ 0.5643277764320374 │ +│ covertype_val_precision │ 0.7684095501899719 │ +│ covertype_val_recall │ 0.7757757902145386 │ +│ covertype_val_score │ 0.7757757902145386 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 370.82it/s +Validation metrics: [{'covertype_val_loss': 0.5643277764320374, 'lr': 0.0, 'covertype_val_accuracy': 0.7757757902145386, 'covertype_val_precision': 0.7684095501899719, 'covertype_val_recall': 0.7757757902145386, 'covertype_val_f1-score': 0.7701118588447571, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7757757902145386}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1023 samples (51.15%) + Class 2: 713 samples (35.65%) + Class 3: 57 samples (2.85%) + Class 4: 138 samples (6.90%) + Class 5: 49 samples (2.45%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7860000133514404 │ +│ covertype_test_f1-score │ 0.784042477607727 │ +│ covertype_test_loss │ 0.5677863359451294 │ +│ covertype_test_precision │ 0.7859670519828796 │ +│ covertype_test_recall │ 0.7860000133514404 │ +│ covertype_test_score │ 0.7860000133514404 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 126.96it/s +Test metrics: [{'covertype_test_loss': 0.5677863359451294, 'lr': 0.0, 'covertype_test_accuracy': 0.7860000133514404, 'covertype_test_precision': 0.7859670519828796, 'covertype_test_recall': 0.7860000133514404, 'covertype_test_f1-score': 0.784042477607727, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7860000133514404}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 1004 samples (52.84%) + Class 2: 706 samples (37.16%) + Class 3: 56 samples (2.95%) + Class 4: 72 samples (3.79%) + Class 5: 46 samples (2.42%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7932 +covertype_test_precision 5% removed: 0.7936 +covertype_test_recall 5% removed: 0.7932 +covertype_test_f1-score 5% removed: 0.7918 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 972 samples (54.00%) + Class 2: 692 samples (38.44%) + Class 3: 56 samples (3.11%) + Class 4: 46 samples (2.56%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7989 +covertype_test_precision 10% removed: 0.7981 +covertype_test_recall 10% removed: 0.7989 +covertype_test_f1-score 10% removed: 0.7969 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 860 samples (53.75%) + Class 2: 630 samples (39.38%) + Class 3: 54 samples (3.38%) + Class 4: 32 samples (2.00%) + Class 5: 9 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.8044 +covertype_test_precision 20% removed: 0.8037 +covertype_test_recall 20% removed: 0.8044 +covertype_test_f1-score 20% removed: 0.8031 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 533 samples (53.30%) + Class 2: 405 samples (40.50%) + Class 3: 47 samples (4.70%) + Class 4: 7 samples (0.70%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8100 +covertype_test_precision 50% removed: 0.8086 +covertype_test_recall 50% removed: 0.8100 +covertype_test_f1-score 50% removed: 0.8081 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_ijd2p68/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp_ijd2p68/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_ijd2p68/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_ijd2p68/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 161.26it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7677677869796753 │ +│ covertype_val_f1-score │ 0.7616081833839417 │ +│ covertype_val_loss │ 0.5554116368293762 │ +│ covertype_val_precision │ 0.7611697316169739 │ +│ covertype_val_recall │ 0.7677677869796753 │ +│ covertype_val_score │ 0.7677677869796753 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 366.76it/s +Validation metrics: [{'covertype_val_loss': 0.5554116368293762, 'lr': 0.0, 'covertype_val_accuracy': 0.7677677869796753, 'covertype_val_precision': 0.7611697316169739, 'covertype_val_recall': 0.7677677869796753, 'covertype_val_f1-score': 0.7616081833839417, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7677677869796753}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1032 samples (51.60%) + Class 2: 702 samples (35.10%) + Class 3: 59 samples (2.95%) + Class 4: 132 samples (6.60%) + Class 5: 56 samples (2.80%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7910000085830688 │ +│ covertype_test_f1-score │ 0.7890214920043945 │ +│ covertype_test_loss │ 0.5460598468780518 │ +│ covertype_test_precision │ 0.7904534935951233 │ +│ covertype_test_recall │ 0.7910000085830688 │ +│ covertype_test_score │ 0.7910000085830688 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 378.82it/s +Test metrics: [{'covertype_test_loss': 0.5460598468780518, 'lr': 0.0, 'covertype_test_accuracy': 0.7910000085830688, 'covertype_test_precision': 0.7904534935951233, 'covertype_test_recall': 0.7910000085830688, 'covertype_test_f1-score': 0.7890214920043945, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7910000085830688}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 1009 samples (53.11%) + Class 2: 697 samples (36.68%) + Class 3: 58 samples (3.05%) + Class 4: 68 samples (3.58%) + Class 5: 53 samples (2.79%) +============================================================ +covertype_test_accuracy 5% removed: 0.7968 +covertype_test_precision 5% removed: 0.7953 +covertype_test_recall 5% removed: 0.7968 +covertype_test_f1-score 5% removed: 0.7950 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 977 samples (54.28%) + Class 2: 685 samples (38.06%) + Class 3: 57 samples (3.17%) + Class 4: 46 samples (2.56%) + Class 5: 20 samples (1.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.8022 +covertype_test_precision 10% removed: 0.7994 +covertype_test_recall 10% removed: 0.8022 +covertype_test_f1-score 10% removed: 0.7997 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 867 samples (54.19%) + Class 2: 622 samples (38.88%) + Class 3: 55 samples (3.44%) + Class 4: 31 samples (1.94%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.8062 +covertype_test_precision 20% removed: 0.8057 +covertype_test_recall 20% removed: 0.8062 +covertype_test_f1-score 20% removed: 0.8048 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 550 samples (55.00%) + Class 2: 389 samples (38.90%) + Class 3: 49 samples (4.90%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.8080 +covertype_test_precision 50% removed: 0.8082 +covertype_test_recall 50% removed: 0.8080 +covertype_test_f1-score 50% removed: 0.8054 +Wrote results for dcnv2 on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/dcnv2_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7885±0.0047 5%: 0.7947±0.0042 10%: 0.8009±0.0046 20%: 0.8079±0.0064 50%: 0.8124±0.0071 +covertype_test_precision 0%: 0.7880±0.0044 5%: 0.7933±0.0039 10%: 0.7985±0.0039 20%: 0.8068±0.0057 50%: 0.8118±0.0073 +covertype_test_recall 0%: 0.7885±0.0047 5%: 0.7947±0.0042 10%: 0.8009±0.0046 20%: 0.8079±0.0064 50%: 0.8124±0.0071 +covertype_test_f1-score 0%: 0.7865±0.0042 5%: 0.7930±0.0038 10%: 0.7986±0.0042 20%: 0.8064±0.0061 50%: 0.8104±0.0069 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'resnet'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp51kgoxcs/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp51kgoxcs/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp51kgoxcs/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp51kgoxcs/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 158.83it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.759759783744812 │ +│ covertype_val_f1-score │ 0.7569906115531921 │ +│ covertype_val_loss │ 0.5843441486358643 │ +│ covertype_val_precision │ 0.7558128237724304 │ +│ covertype_val_recall │ 0.759759783744812 │ +│ covertype_val_score │ 0.759759783744812 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 355.43it/s +Validation metrics: [{'covertype_val_loss': 0.5843441486358643, 'lr': 0.0, 'covertype_val_accuracy': 0.759759783744812, 'covertype_val_precision': 0.7558128237724304, 'covertype_val_recall': 0.759759783744812, 'covertype_val_f1-score': 0.7569906115531921, 'covertype_val_support': 999.0, 'covertype_val_score': 0.759759783744812}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 25 samples (1.25%) + Class 1: 998 samples (49.90%) + Class 2: 725 samples (36.25%) + Class 3: 61 samples (3.05%) + Class 4: 118 samples (5.90%) + Class 5: 69 samples (3.45%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7764999866485596 │ +│ covertype_test_f1-score │ 0.7765164971351624 │ +│ covertype_test_loss │ 0.5522415041923523 │ +│ covertype_test_precision │ 0.7775174379348755 │ +│ covertype_test_recall │ 0.7764999866485596 │ +│ covertype_test_score │ 0.7764999866485596 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 364.09it/s +Test metrics: [{'covertype_test_loss': 0.5522415041923523, 'lr': 0.0, 'covertype_test_accuracy': 0.7764999866485596, 'covertype_test_precision': 0.7775174379348755, 'covertype_test_recall': 0.7764999866485596, 'covertype_test_f1-score': 0.7765164971351624, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7764999866485596}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 22 samples (1.16%) + Class 1: 980 samples (51.58%) + Class 2: 718 samples (37.79%) + Class 3: 60 samples (3.16%) + Class 4: 60 samples (3.16%) + Class 5: 60 samples (3.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.7826 +covertype_test_precision 5% removed: 0.7833 +covertype_test_recall 5% removed: 0.7826 +covertype_test_f1-score 5% removed: 0.7823 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 22 samples (1.22%) + Class 1: 949 samples (52.72%) + Class 2: 706 samples (39.22%) + Class 3: 59 samples (3.28%) + Class 4: 39 samples (2.17%) + Class 5: 25 samples (1.39%) +============================================================ +covertype_test_accuracy 10% removed: 0.7878 +covertype_test_precision 10% removed: 0.7870 +covertype_test_recall 10% removed: 0.7878 +covertype_test_f1-score 10% removed: 0.7869 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 22 samples (1.38%) + Class 1: 836 samples (52.25%) + Class 2: 646 samples (40.38%) + Class 3: 55 samples (3.44%) + Class 4: 27 samples (1.69%) + Class 5: 14 samples (0.88%) +============================================================ +covertype_test_accuracy 20% removed: 0.7900 +covertype_test_precision 20% removed: 0.7904 +covertype_test_recall 20% removed: 0.7900 +covertype_test_f1-score 20% removed: 0.7900 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 11 samples (1.10%) + Class 1: 522 samples (52.20%) + Class 2: 413 samples (41.30%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7880 +covertype_test_precision 50% removed: 0.7875 +covertype_test_recall 50% removed: 0.7880 +covertype_test_f1-score 50% removed: 0.7874 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp51kgoxcs/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp51kgoxcs/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp51kgoxcs/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp51kgoxcs/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 176.32it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.770770788192749 │ +│ covertype_val_f1-score │ 0.7633250951766968 │ +│ covertype_val_loss │ 0.5857626795768738 │ +│ covertype_val_precision │ 0.7630859613418579 │ +│ covertype_val_recall │ 0.770770788192749 │ +│ covertype_val_score │ 0.770770788192749 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 400.19it/s +Validation metrics: [{'covertype_val_loss': 0.5857626795768738, 'lr': 0.0, 'covertype_val_accuracy': 0.770770788192749, 'covertype_val_precision': 0.7630859613418579, 'covertype_val_recall': 0.770770788192749, 'covertype_val_f1-score': 0.7633250951766968, 'covertype_val_support': 999.0, 'covertype_val_score': 0.770770788192749}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 27 samples (1.35%) + Class 1: 1028 samples (51.40%) + Class 2: 730 samples (36.50%) + Class 3: 50 samples (2.50%) + Class 4: 123 samples (6.15%) + Class 5: 36 samples (1.80%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7864999771118164 │ +│ covertype_test_f1-score │ 0.7836451530456543 │ +│ covertype_test_loss │ 0.5561634302139282 │ +│ covertype_test_precision │ 0.7842854261398315 │ +│ covertype_test_recall │ 0.7864999771118164 │ +│ covertype_test_score │ 0.7864999771118164 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 342.59it/s +Test metrics: [{'covertype_test_loss': 0.5561634302139282, 'lr': 0.0, 'covertype_test_accuracy': 0.7864999771118164, 'covertype_test_precision': 0.7842854261398315, 'covertype_test_recall': 0.7864999771118164, 'covertype_test_f1-score': 0.7836451530456543, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7864999771118164}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 24 samples (1.26%) + Class 1: 1003 samples (52.79%) + Class 2: 724 samples (38.11%) + Class 3: 49 samples (2.58%) + Class 4: 68 samples (3.58%) + Class 5: 31 samples (1.63%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7932 +covertype_test_precision 5% removed: 0.7919 +covertype_test_recall 5% removed: 0.7932 +covertype_test_f1-score 5% removed: 0.7911 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 24 samples (1.33%) + Class 1: 968 samples (53.78%) + Class 2: 710 samples (39.44%) + Class 3: 49 samples (2.72%) + Class 4: 34 samples (1.89%) + Class 5: 14 samples (0.78%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7972 +covertype_test_precision 10% removed: 0.7952 +covertype_test_recall 10% removed: 0.7972 +covertype_test_f1-score 10% removed: 0.7950 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 19 samples (1.19%) + Class 1: 857 samples (53.56%) + Class 2: 645 samples (40.31%) + Class 3: 47 samples (2.94%) + Class 4: 20 samples (1.25%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.8037 +covertype_test_precision 20% removed: 0.8028 +covertype_test_recall 20% removed: 0.8037 +covertype_test_f1-score 20% removed: 0.8027 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 537 samples (53.70%) + Class 2: 409 samples (40.90%) + Class 3: 41 samples (4.10%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.8000 +covertype_test_precision 50% removed: 0.7995 +covertype_test_recall 50% removed: 0.8000 +covertype_test_f1-score 50% removed: 0.7982 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp51kgoxcs/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp51kgoxcs/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp51kgoxcs/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp51kgoxcs/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 45/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 117.29it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7577577829360962 │ +│ covertype_val_f1-score │ 0.7553930878639221 │ +│ covertype_val_loss │ 0.6086344122886658 │ +│ covertype_val_precision │ 0.7590612769126892 │ +│ covertype_val_recall │ 0.7577577829360962 │ +│ covertype_val_score │ 0.7577577829360962 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 189.86it/s +Validation metrics: [{'covertype_val_loss': 0.6086344122886658, 'lr': 0.0, 'covertype_val_accuracy': 0.7577577829360962, 'covertype_val_precision': 0.7590612769126892, 'covertype_val_recall': 0.7577577829360962, 'covertype_val_f1-score': 0.7553930878639221, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7577577829360962}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 12 samples (0.60%) + Class 1: 919 samples (45.95%) + Class 2: 836 samples (41.80%) + Class 3: 50 samples (2.50%) + Class 4: 114 samples (5.70%) + Class 5: 65 samples (3.25%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7695000171661377 │ +│ covertype_test_f1-score │ 0.7681133151054382 │ +│ covertype_test_loss │ 0.5691348910331726 │ +│ covertype_test_precision │ 0.7769678235054016 │ +│ covertype_test_recall │ 0.7695000171661377 │ +│ covertype_test_score │ 0.7695000171661377 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 362.27it/s +Test metrics: [{'covertype_test_loss': 0.5691348910331726, 'lr': 0.0, 'covertype_test_accuracy': 0.7695000171661377, 'covertype_test_precision': 0.7769678235054016, 'covertype_test_recall': 0.7695000171661377, 'covertype_test_f1-score': 0.7681133151054382, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7695000171661377}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 10 samples (0.53%) + Class 1: 896 samples (47.16%) + Class 2: 830 samples (43.68%) + Class 3: 49 samples (2.58%) + Class 4: 57 samples (3.00%) + Class 5: 57 samples (3.00%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7732 +covertype_test_precision 5% removed: 0.7830 +covertype_test_recall 5% removed: 0.7732 +covertype_test_f1-score 5% removed: 0.7717 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 10 samples (0.56%) + Class 1: 859 samples (47.72%) + Class 2: 818 samples (45.44%) + Class 3: 48 samples (2.67%) + Class 4: 42 samples (2.33%) + Class 5: 22 samples (1.22%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7756 +covertype_test_precision 10% removed: 0.7850 +covertype_test_recall 10% removed: 0.7756 +covertype_test_f1-score 10% removed: 0.7739 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 10 samples (0.62%) + Class 1: 754 samples (47.12%) + Class 2: 745 samples (46.56%) + Class 3: 46 samples (2.88%) + Class 4: 30 samples (1.88%) + Class 5: 14 samples (0.88%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7806 +covertype_test_precision 20% removed: 0.7904 +covertype_test_recall 20% removed: 0.7806 +covertype_test_f1-score 20% removed: 0.7800 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 461 samples (46.10%) + Class 2: 486 samples (48.60%) + Class 3: 41 samples (4.10%) + Class 4: 5 samples (0.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7750 +covertype_test_precision 50% removed: 0.7828 +covertype_test_recall 50% removed: 0.7750 +covertype_test_f1-score 50% removed: 0.7745 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp51kgoxcs/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp51kgoxcs/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp51kgoxcs/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp51kgoxcs/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 100.37it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7787787914276123 │ +│ covertype_val_f1-score │ 0.7710661888122559 │ +│ covertype_val_loss │ 0.5793055295944214 │ +│ covertype_val_precision │ 0.7671511173248291 │ +│ covertype_val_recall │ 0.7787787914276123 │ +│ covertype_val_score │ 0.7787787914276123 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 119.77it/s +Validation metrics: [{'covertype_val_loss': 0.5793055295944214, 'lr': 0.0, 'covertype_val_accuracy': 0.7787787914276123, 'covertype_val_precision': 0.7671511173248291, 'covertype_val_recall': 0.7787787914276123, 'covertype_val_f1-score': 0.7710661888122559, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7787787914276123}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 26 samples (1.30%) + Class 1: 1019 samples (50.95%) + Class 2: 715 samples (35.75%) + Class 3: 67 samples (3.35%) + Class 4: 117 samples (5.85%) + Class 5: 54 samples (2.70%) + Class 6: 2 samples (0.10%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7699999809265137 │ +│ covertype_test_f1-score │ 0.7678276896476746 │ +│ covertype_test_loss │ 0.5876860618591309 │ +│ covertype_test_precision │ 0.7669690251350403 │ +│ covertype_test_recall │ 0.7699999809265137 │ +│ covertype_test_score │ 0.7699999809265137 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 382.22it/s +Test metrics: [{'covertype_test_loss': 0.5876860618591309, 'lr': 0.0, 'covertype_test_accuracy': 0.7699999809265137, 'covertype_test_precision': 0.7669690251350403, 'covertype_test_recall': 0.7699999809265137, 'covertype_test_f1-score': 0.7678276896476746, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7699999809265137}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 24 samples (1.26%) + Class 1: 996 samples (52.42%) + Class 2: 710 samples (37.37%) + Class 3: 66 samples (3.47%) + Class 4: 55 samples (2.89%) + Class 5: 48 samples (2.53%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7758 +covertype_test_precision 5% removed: 0.7743 +covertype_test_recall 5% removed: 0.7758 +covertype_test_f1-score 5% removed: 0.7743 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 23 samples (1.28%) + Class 1: 962 samples (53.44%) + Class 2: 699 samples (38.83%) + Class 3: 65 samples (3.61%) + Class 4: 29 samples (1.61%) + Class 5: 21 samples (1.17%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7806 +covertype_test_precision 10% removed: 0.7789 +covertype_test_recall 10% removed: 0.7806 +covertype_test_f1-score 10% removed: 0.7787 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 19 samples (1.19%) + Class 1: 853 samples (53.31%) + Class 2: 637 samples (39.81%) + Class 3: 63 samples (3.94%) + Class 4: 15 samples (0.94%) + Class 5: 12 samples (0.75%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7856 +covertype_test_precision 20% removed: 0.7842 +covertype_test_recall 20% removed: 0.7856 +covertype_test_f1-score 20% removed: 0.7840 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 530 samples (53.00%) + Class 2: 402 samples (40.20%) + Class 3: 55 samples (5.50%) + Class 4: 4 samples (0.40%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7780 +covertype_test_precision 50% removed: 0.7758 +covertype_test_recall 50% removed: 0.7780 +covertype_test_f1-score 50% removed: 0.7757 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp51kgoxcs/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp51kgoxcs/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp51kgoxcs/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp51kgoxcs/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 115.22it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7897897958755493 │ +│ covertype_val_f1-score │ 0.7861254811286926 │ +│ covertype_val_loss │ 0.5715478658676147 │ +│ covertype_val_precision │ 0.7840191721916199 │ +│ covertype_val_recall │ 0.7897897958755493 │ +│ covertype_val_score │ 0.7897897958755493 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0005000000237487257 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 130.16it/s +Validation metrics: [{'covertype_val_loss': 0.5715478658676147, 'lr': 0.0005000000237487257, 'covertype_val_accuracy': 0.7897897958755493, 'covertype_val_precision': 0.7840191721916199, 'covertype_val_recall': 0.7897897958755493, 'covertype_val_f1-score': 0.7861254811286926, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7897897958755493}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 31 samples (1.55%) + Class 1: 1056 samples (52.80%) + Class 2: 676 samples (33.80%) + Class 3: 61 samples (3.05%) + Class 4: 131 samples (6.55%) + Class 5: 42 samples (2.10%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7789999842643738 │ +│ covertype_test_f1-score │ 0.7762046456336975 │ +│ covertype_test_loss │ 0.5640506148338318 │ +│ covertype_test_precision │ 0.7764581441879272 │ +│ covertype_test_recall │ 0.7789999842643738 │ +│ covertype_test_score │ 0.7789999842643738 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0005000000819563866 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 175.22it/s +Test metrics: [{'covertype_test_loss': 0.5640506148338318, 'lr': 0.0005000000819563866, 'covertype_test_accuracy': 0.7789999842643738, 'covertype_test_precision': 0.7764581441879272, 'covertype_test_recall': 0.7789999842643738, 'covertype_test_f1-score': 0.7762046456336975, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7789999842643738}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 28 samples (1.47%) + Class 1: 1035 samples (54.47%) + Class 2: 670 samples (35.26%) + Class 3: 60 samples (3.16%) + Class 4: 71 samples (3.74%) + Class 5: 36 samples (1.89%) +============================================================ +covertype_test_accuracy 5% removed: 0.7842 +covertype_test_precision 5% removed: 0.7809 +covertype_test_recall 5% removed: 0.7842 +covertype_test_f1-score 5% removed: 0.7821 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 994 samples (55.22%) + Class 2: 659 samples (36.61%) + Class 3: 59 samples (3.28%) + Class 4: 38 samples (2.11%) + Class 5: 25 samples (1.39%) +============================================================ +covertype_test_accuracy 10% removed: 0.7906 +covertype_test_precision 10% removed: 0.7889 +covertype_test_recall 10% removed: 0.7906 +covertype_test_f1-score 10% removed: 0.7892 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 19 samples (1.19%) + Class 1: 884 samples (55.25%) + Class 2: 600 samples (37.50%) + Class 3: 56 samples (3.50%) + Class 4: 25 samples (1.56%) + Class 5: 16 samples (1.00%) +============================================================ +covertype_test_accuracy 20% removed: 0.7962 +covertype_test_precision 20% removed: 0.7958 +covertype_test_recall 20% removed: 0.7962 +covertype_test_f1-score 20% removed: 0.7953 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 563 samples (56.30%) + Class 2: 373 samples (37.30%) + Class 3: 48 samples (4.80%) + Class 4: 3 samples (0.30%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7990 +covertype_test_precision 50% removed: 0.8002 +covertype_test_recall 50% removed: 0.7990 +covertype_test_f1-score 50% removed: 0.7971 +Wrote results for resnet on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/resnet_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7763±0.0087 5%: 0.7818±0.0097 10%: 0.7863±0.0105 20%: 0.7912±0.0112 50%: 0.7880±0.0143 +covertype_test_precision 0%: 0.7764±0.0077 5%: 0.7827±0.0078 10%: 0.7870±0.0073 20%: 0.7927±0.0087 50%: 0.7892±0.0132 +covertype_test_recall 0%: 0.7763±0.0087 5%: 0.7818±0.0097 10%: 0.7863±0.0105 20%: 0.7912±0.0112 50%: 0.7880±0.0143 +covertype_test_f1-score 0%: 0.7745±0.0082 5%: 0.7803±0.0095 10%: 0.7848±0.0105 20%: 0.7904±0.0112 50%: 0.7866±0.0140 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'autoint'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpiqq0bq30/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpiqq0bq30/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpiqq0bq30/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpiqq0bq30/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 79.23it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7387387156486511 │ +│ covertype_val_f1-score │ 0.7348101139068604 │ +│ covertype_val_loss │ 0.6191936731338501 │ +│ covertype_val_precision │ 0.736696183681488 │ +│ covertype_val_recall │ 0.7387387156486511 │ +│ covertype_val_score │ 0.7387387156486511 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 94.63it/s +Validation metrics: [{'covertype_val_loss': 0.6191936731338501, 'lr': 0.0, 'covertype_val_accuracy': 0.7387387156486511, 'covertype_val_precision': 0.736696183681488, 'covertype_val_recall': 0.7387387156486511, 'covertype_val_f1-score': 0.7348101139068604, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7387387156486511}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1010 samples (50.50%) + Class 2: 721 samples (36.05%) + Class 3: 56 samples (2.80%) + Class 4: 124 samples (6.20%) + Class 5: 69 samples (3.45%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7584999799728394 │ +│ covertype_test_f1-score │ 0.7574412822723389 │ +│ covertype_test_loss │ 0.5843967199325562 │ +│ covertype_test_precision │ 0.7590435147285461 │ +│ covertype_test_recall │ 0.7584999799728394 │ +│ covertype_test_score │ 0.7584999799728394 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 165.31it/s +Test metrics: [{'covertype_test_loss': 0.5843967199325562, 'lr': 0.0, 'covertype_test_accuracy': 0.7584999799728394, 'covertype_test_precision': 0.7590435147285461, 'covertype_test_recall': 0.7584999799728394, 'covertype_test_f1-score': 0.7574412822723389, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7584999799728394}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 989 samples (52.05%) + Class 2: 716 samples (37.68%) + Class 3: 55 samples (2.89%) + Class 4: 59 samples (3.11%) + Class 5: 64 samples (3.37%) +============================================================ +covertype_test_accuracy 5% removed: 0.7642 +covertype_test_precision 5% removed: 0.7645 +covertype_test_recall 5% removed: 0.7642 +covertype_test_f1-score 5% removed: 0.7632 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 957 samples (53.17%) + Class 2: 704 samples (39.11%) + Class 3: 54 samples (3.00%) + Class 4: 37 samples (2.06%) + Class 5: 31 samples (1.72%) +============================================================ +covertype_test_accuracy 10% removed: 0.7683 +covertype_test_precision 10% removed: 0.7681 +covertype_test_recall 10% removed: 0.7683 +covertype_test_f1-score 10% removed: 0.7672 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 16 samples (1.00%) + Class 1: 849 samples (53.06%) + Class 2: 640 samples (40.00%) + Class 3: 52 samples (3.25%) + Class 4: 25 samples (1.56%) + Class 5: 18 samples (1.12%) +============================================================ +covertype_test_accuracy 20% removed: 0.7756 +covertype_test_precision 20% removed: 0.7758 +covertype_test_recall 20% removed: 0.7756 +covertype_test_f1-score 20% removed: 0.7750 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 536 samples (53.60%) + Class 2: 405 samples (40.50%) + Class 3: 44 samples (4.40%) + Class 4: 4 samples (0.40%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7770 +covertype_test_precision 50% removed: 0.7760 +covertype_test_recall 50% removed: 0.7770 +covertype_test_f1-score 50% removed: 0.7757 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpiqq0bq30/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpiqq0bq30/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpiqq0bq30/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpiqq0bq30/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 95.38it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7577577829360962 │ +│ covertype_val_f1-score │ 0.754571795463562 │ +│ covertype_val_loss │ 0.6235183477401733 │ +│ covertype_val_precision │ 0.7582128643989563 │ +│ covertype_val_recall │ 0.7577577829360962 │ +│ covertype_val_score │ 0.7577577829360962 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 85.13it/s +Validation metrics: [{'covertype_val_loss': 0.6235183477401733, 'lr': 0.0, 'covertype_val_accuracy': 0.7577577829360962, 'covertype_val_precision': 0.7582128643989563, 'covertype_val_recall': 0.7577577829360962, 'covertype_val_f1-score': 0.754571795463562, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7577577829360962}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 982 samples (49.10%) + Class 2: 751 samples (37.55%) + Class 3: 61 samples (3.05%) + Class 4: 132 samples (6.60%) + Class 5: 57 samples (2.85%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7584999799728394 │ +│ covertype_test_f1-score │ 0.7559909224510193 │ +│ covertype_test_loss │ 0.5788220763206482 │ +│ covertype_test_precision │ 0.7570611834526062 │ +│ covertype_test_recall │ 0.7584999799728394 │ +│ covertype_test_score │ 0.7584999799728394 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 193.31it/s +Test metrics: [{'covertype_test_loss': 0.5788220763206482, 'lr': 0.0, 'covertype_test_accuracy': 0.7584999799728394, 'covertype_test_precision': 0.7570611834526062, 'covertype_test_recall': 0.7584999799728394, 'covertype_test_f1-score': 0.7559909224510193, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7584999799728394}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 964 samples (50.74%) + Class 2: 740 samples (38.95%) + Class 3: 60 samples (3.16%) + Class 4: 71 samples (3.74%) + Class 5: 52 samples (2.74%) +============================================================ +covertype_test_accuracy 5% removed: 0.7632 +covertype_test_precision 5% removed: 0.7614 +covertype_test_recall 5% removed: 0.7632 +covertype_test_f1-score 5% removed: 0.7610 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 932 samples (51.78%) + Class 2: 728 samples (40.44%) + Class 3: 59 samples (3.28%) + Class 4: 42 samples (2.33%) + Class 5: 26 samples (1.44%) +============================================================ +covertype_test_accuracy 10% removed: 0.7672 +covertype_test_precision 10% removed: 0.7648 +covertype_test_recall 10% removed: 0.7672 +covertype_test_f1-score 10% removed: 0.7648 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 827 samples (51.69%) + Class 2: 663 samples (41.44%) + Class 3: 55 samples (3.44%) + Class 4: 28 samples (1.75%) + Class 5: 14 samples (0.88%) +============================================================ +covertype_test_accuracy 20% removed: 0.7738 +covertype_test_precision 20% removed: 0.7721 +covertype_test_recall 20% removed: 0.7738 +covertype_test_f1-score 20% removed: 0.7721 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 522 samples (52.20%) + Class 2: 416 samples (41.60%) + Class 3: 49 samples (4.90%) + Class 4: 5 samples (0.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7810 +covertype_test_precision 50% removed: 0.7775 +covertype_test_recall 50% removed: 0.7810 +covertype_test_f1-score 50% removed: 0.7787 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpiqq0bq30/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpiqq0bq30/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpiqq0bq30/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpiqq0bq30/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 38/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 81.80it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7437437176704407 │ +│ covertype_val_f1-score │ 0.7394341230392456 │ +│ covertype_val_loss │ 0.6109156012535095 │ +│ covertype_val_precision │ 0.7397967576980591 │ +│ covertype_val_recall │ 0.7437437176704407 │ +│ covertype_val_score │ 0.7437437176704407 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.00011474337225081399 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 183.38it/s +Validation metrics: [{'covertype_val_loss': 0.6109156012535095, 'lr': 0.00011474337225081399, 'covertype_val_accuracy': 0.7437437176704407, 'covertype_val_precision': 0.7397967576980591, 'covertype_val_recall': 0.7437437176704407, 'covertype_val_f1-score': 0.7394341230392456, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7437437176704407}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 11 samples (0.55%) + Class 1: 1035 samples (51.75%) + Class 2: 720 samples (36.00%) + Class 3: 39 samples (1.95%) + Class 4: 125 samples (6.25%) + Class 5: 67 samples (3.35%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7540000081062317 │ +│ covertype_test_f1-score │ 0.751200795173645 │ +│ covertype_test_loss │ 0.5826913118362427 │ +│ covertype_test_precision │ 0.7556663751602173 │ +│ covertype_test_recall │ 0.7540000081062317 │ +│ covertype_test_score │ 0.7540000081062317 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.00011474337225081399 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 152.23it/s +Test metrics: [{'covertype_test_loss': 0.5826913118362427, 'lr': 0.00011474337225081399, 'covertype_test_accuracy': 0.7540000081062317, 'covertype_test_precision': 0.7556663751602173, 'covertype_test_recall': 0.7540000081062317, 'covertype_test_f1-score': 0.751200795173645, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7540000081062317}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 10 samples (0.53%) + Class 1: 1017 samples (53.53%) + Class 2: 715 samples (37.63%) + Class 3: 38 samples (2.00%) + Class 4: 59 samples (3.11%) + Class 5: 61 samples (3.21%) +============================================================ +covertype_test_accuracy 5% removed: 0.7589 +covertype_test_precision 5% removed: 0.7594 +covertype_test_recall 5% removed: 0.7589 +covertype_test_f1-score 5% removed: 0.7557 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 10 samples (0.56%) + Class 1: 986 samples (54.78%) + Class 2: 703 samples (39.06%) + Class 3: 37 samples (2.06%) + Class 4: 38 samples (2.11%) + Class 5: 26 samples (1.44%) +============================================================ +covertype_test_accuracy 10% removed: 0.7628 +covertype_test_precision 10% removed: 0.7623 +covertype_test_recall 10% removed: 0.7628 +covertype_test_f1-score 10% removed: 0.7590 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 874 samples (54.62%) + Class 2: 642 samples (40.12%) + Class 3: 35 samples (2.19%) + Class 4: 26 samples (1.62%) + Class 5: 14 samples (0.88%) +============================================================ +covertype_test_accuracy 20% removed: 0.7688 +covertype_test_precision 20% removed: 0.7695 +covertype_test_recall 20% removed: 0.7688 +covertype_test_f1-score 20% removed: 0.7657 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 557 samples (55.70%) + Class 2: 403 samples (40.30%) + Class 3: 29 samples (2.90%) + Class 4: 5 samples (0.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7730 +covertype_test_precision 50% removed: 0.7743 +covertype_test_recall 50% removed: 0.7730 +covertype_test_f1-score 50% removed: 0.7690 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpiqq0bq30/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpiqq0bq30/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpiqq0bq30/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpiqq0bq30/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 44/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 74.02it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.759759783744812 │ +│ covertype_val_f1-score │ 0.7558282613754272 │ +│ covertype_val_loss │ 0.626106321811676 │ +│ covertype_val_precision │ 0.7565421462059021 │ +│ covertype_val_recall │ 0.759759783744812 │ +│ covertype_val_score │ 0.759759783744812 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 2.4471739379805513e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 93.73it/s +Validation metrics: [{'covertype_val_loss': 0.626106321811676, 'lr': 2.4471739379805513e-05, 'covertype_val_accuracy': 0.759759783744812, 'covertype_val_precision': 0.7565421462059021, 'covertype_val_recall': 0.759759783744812, 'covertype_val_f1-score': 0.7558282613754272, 'covertype_val_support': 999.0, 'covertype_val_score': 0.759759783744812}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1025 samples (51.25%) + Class 2: 711 samples (35.55%) + Class 3: 58 samples (2.90%) + Class 4: 122 samples (6.10%) + Class 5: 65 samples (3.25%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7645000219345093 │ +│ covertype_test_f1-score │ 0.7626901268959045 │ +│ covertype_test_loss │ 0.5920112729072571 │ +│ covertype_test_precision │ 0.7633848786354065 │ +│ covertype_test_recall │ 0.7645000219345093 │ +│ covertype_test_score │ 0.7645000219345093 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 2.4471744836773723e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 77.53it/s +Test metrics: [{'covertype_test_loss': 0.5920112729072571, 'lr': 2.4471744836773723e-05, 'covertype_test_accuracy': 0.7645000219345093, 'covertype_test_precision': 0.7633848786354065, 'covertype_test_recall': 0.7645000219345093, 'covertype_test_f1-score': 0.7626901268959045, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7645000219345093}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 14 samples (0.74%) + Class 1: 1006 samples (52.95%) + Class 2: 705 samples (37.11%) + Class 3: 57 samples (3.00%) + Class 4: 61 samples (3.21%) + Class 5: 57 samples (3.00%) +============================================================ +covertype_test_accuracy 5% removed: 0.7705 +covertype_test_precision 5% removed: 0.7683 +covertype_test_recall 5% removed: 0.7705 +covertype_test_f1-score 5% removed: 0.7683 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 14 samples (0.78%) + Class 1: 973 samples (54.06%) + Class 2: 693 samples (38.50%) + Class 3: 56 samples (3.11%) + Class 4: 34 samples (1.89%) + Class 5: 30 samples (1.67%) +============================================================ +covertype_test_accuracy 10% removed: 0.7733 +covertype_test_precision 10% removed: 0.7713 +covertype_test_recall 10% removed: 0.7733 +covertype_test_f1-score 10% removed: 0.7710 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 868 samples (54.25%) + Class 2: 626 samples (39.12%) + Class 3: 54 samples (3.38%) + Class 4: 24 samples (1.50%) + Class 5: 17 samples (1.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7794 +covertype_test_precision 20% removed: 0.7788 +covertype_test_recall 20% removed: 0.7794 +covertype_test_f1-score 20% removed: 0.7776 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 545 samples (54.50%) + Class 2: 393 samples (39.30%) + Class 3: 48 samples (4.80%) + Class 4: 3 samples (0.30%) + Class 5: 4 samples (0.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.7840 +covertype_test_precision 50% removed: 0.7838 +covertype_test_recall 50% removed: 0.7840 +covertype_test_f1-score 50% removed: 0.7822 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpiqq0bq30/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpiqq0bq30/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpiqq0bq30/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpiqq0bq30/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 47/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 98.64it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7537537813186646 │ +│ covertype_val_f1-score │ 0.7497158646583557 │ +│ covertype_val_loss │ 0.623979389667511 │ +│ covertype_val_precision │ 0.7545268535614014 │ +│ covertype_val_recall │ 0.7537537813186646 │ +│ covertype_val_score │ 0.7537537813186646 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 145.73it/s +Validation metrics: [{'covertype_val_loss': 0.623979389667511, 'lr': 3.9426490729965735e-06, 'covertype_val_accuracy': 0.7537537813186646, 'covertype_val_precision': 0.7545268535614014, 'covertype_val_recall': 0.7537537813186646, 'covertype_val_f1-score': 0.7497158646583557, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7537537813186646}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1025 samples (51.25%) + Class 2: 713 samples (35.65%) + Class 3: 56 samples (2.80%) + Class 4: 128 samples (6.40%) + Class 5: 57 samples (2.85%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7559999823570251 │ +│ covertype_test_f1-score │ 0.7541241645812988 │ +│ covertype_test_loss │ 0.6032195091247559 │ +│ covertype_test_precision │ 0.7546801567077637 │ +│ covertype_test_recall │ 0.7559999823570251 │ +│ covertype_test_score │ 0.7559999823570251 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 212.23it/s +Test metrics: [{'covertype_test_loss': 0.6032195091247559, 'lr': 3.9426490729965735e-06, 'covertype_test_accuracy': 0.7559999823570251, 'covertype_test_precision': 0.7546801567077637, 'covertype_test_recall': 0.7559999823570251, 'covertype_test_f1-score': 0.7541241645812988, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7559999823570251}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 1006 samples (52.95%) + Class 2: 707 samples (37.21%) + Class 3: 55 samples (2.89%) + Class 4: 63 samples (3.32%) + Class 5: 53 samples (2.79%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7605 +covertype_test_precision 5% removed: 0.7598 +covertype_test_recall 5% removed: 0.7605 +covertype_test_f1-score 5% removed: 0.7588 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 976 samples (54.22%) + Class 2: 693 samples (38.50%) + Class 3: 54 samples (3.00%) + Class 4: 39 samples (2.17%) + Class 5: 22 samples (1.22%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7650 +covertype_test_precision 10% removed: 0.7634 +covertype_test_recall 10% removed: 0.7650 +covertype_test_f1-score 10% removed: 0.7628 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 867 samples (54.19%) + Class 2: 629 samples (39.31%) + Class 3: 51 samples (3.19%) + Class 4: 27 samples (1.69%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7725 +covertype_test_precision 20% removed: 0.7704 +covertype_test_recall 20% removed: 0.7725 +covertype_test_f1-score 20% removed: 0.7708 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 554 samples (55.40%) + Class 2: 388 samples (38.80%) + Class 3: 46 samples (4.60%) + Class 4: 4 samples (0.40%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7850 +covertype_test_precision 50% removed: 0.7838 +covertype_test_recall 50% removed: 0.7850 +covertype_test_f1-score 50% removed: 0.7819 +Wrote results for autoint on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/autoint_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7583±0.0049 5%: 0.7635±0.0055 10%: 0.7673±0.0049 20%: 0.7740±0.0049 50%: 0.7800±0.0062 +covertype_test_precision 0%: 0.7580±0.0043 5%: 0.7627±0.0046 10%: 0.7660±0.0046 20%: 0.7733±0.0048 50%: 0.7791±0.0056 +covertype_test_recall 0%: 0.7583±0.0049 5%: 0.7635±0.0055 10%: 0.7673±0.0049 20%: 0.7740±0.0049 50%: 0.7800±0.0062 +covertype_test_f1-score 0%: 0.7563±0.0053 5%: 0.7614±0.0059 10%: 0.7650±0.0056 20%: 0.7723±0.0056 50%: 0.7775±0.0068 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'fttransformer'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpru5nx1qb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpru5nx1qb/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpru5nx1qb/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpru5nx1qb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 61.49it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7417417168617249 │ +│ covertype_val_f1-score │ 0.7375065684318542 │ +│ covertype_val_loss │ 0.585271954536438 │ +│ covertype_val_precision │ 0.7403576374053955 │ +│ covertype_val_recall │ 0.7417417168617249 │ +│ covertype_val_score │ 0.7417417168617249 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 117.17it/s +Validation metrics: [{'covertype_val_loss': 0.585271954536438, 'lr': 0.0, 'covertype_val_accuracy': 0.7417417168617249, 'covertype_val_precision': 0.7403576374053955, 'covertype_val_recall': 0.7417417168617249, 'covertype_val_f1-score': 0.7375065684318542, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7417417168617249}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 7 samples (0.35%) + Class 1: 973 samples (48.65%) + Class 2: 752 samples (37.60%) + Class 3: 62 samples (3.10%) + Class 4: 151 samples (7.55%) + Class 5: 53 samples (2.65%) + Class 6: 2 samples (0.10%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7475000023841858 │ +│ covertype_test_f1-score │ 0.7443338632583618 │ +│ covertype_test_loss │ 0.5909908413887024 │ +│ covertype_test_precision │ 0.7521159052848816 │ +│ covertype_test_recall │ 0.7475000023841858 │ +│ covertype_test_score │ 0.7475000023841858 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 139.81it/s +Test metrics: [{'covertype_test_loss': 0.5909908413887024, 'lr': 0.0, 'covertype_test_accuracy': 0.7475000023841858, 'covertype_test_precision': 0.7521159052848816, 'covertype_test_recall': 0.7475000023841858, 'covertype_test_f1-score': 0.7443338632583618, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7475000023841858}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 7 samples (0.37%) + Class 1: 959 samples (50.47%) + Class 2: 746 samples (39.26%) + Class 3: 61 samples (3.21%) + Class 4: 75 samples (3.95%) + Class 5: 52 samples (2.74%) +============================================================ +covertype_test_accuracy 5% removed: 0.7553 +covertype_test_precision 5% removed: 0.7593 +covertype_test_recall 5% removed: 0.7553 +covertype_test_f1-score 5% removed: 0.7532 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 7 samples (0.39%) + Class 1: 931 samples (51.72%) + Class 2: 734 samples (40.78%) + Class 3: 60 samples (3.33%) + Class 4: 44 samples (2.44%) + Class 5: 24 samples (1.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.7594 +covertype_test_precision 10% removed: 0.7622 +covertype_test_recall 10% removed: 0.7594 +covertype_test_f1-score 10% removed: 0.7568 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 6 samples (0.38%) + Class 1: 830 samples (51.88%) + Class 2: 666 samples (41.62%) + Class 3: 57 samples (3.56%) + Class 4: 32 samples (2.00%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7688 +covertype_test_precision 20% removed: 0.7728 +covertype_test_recall 20% removed: 0.7688 +covertype_test_f1-score 20% removed: 0.7664 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 524 samples (52.40%) + Class 2: 417 samples (41.70%) + Class 3: 49 samples (4.90%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7780 +covertype_test_precision 50% removed: 0.7783 +covertype_test_recall 50% removed: 0.7780 +covertype_test_f1-score 50% removed: 0.7753 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpru5nx1qb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpru5nx1qb/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpru5nx1qb/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpru5nx1qb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 84.92it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7537537813186646 │ +│ covertype_val_f1-score │ 0.7513952255249023 │ +│ covertype_val_loss │ 0.5909901261329651 │ +│ covertype_val_precision │ 0.756201446056366 │ +│ covertype_val_recall │ 0.7537537813186646 │ +│ covertype_val_score │ 0.7537537813186646 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 219.60it/s +Validation metrics: [{'covertype_val_loss': 0.5909901261329651, 'lr': 0.0, 'covertype_val_accuracy': 0.7537537813186646, 'covertype_val_precision': 0.756201446056366, 'covertype_val_recall': 0.7537537813186646, 'covertype_val_f1-score': 0.7513952255249023, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7537537813186646}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 1006 samples (50.30%) + Class 2: 734 samples (36.70%) + Class 3: 57 samples (2.85%) + Class 4: 140 samples (7.00%) + Class 5: 44 samples (2.20%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.753000020980835 │ +│ covertype_test_f1-score │ 0.7502666711807251 │ +│ covertype_test_loss │ 0.5728349089622498 │ +│ covertype_test_precision │ 0.7521750330924988 │ +│ covertype_test_recall │ 0.753000020980835 │ +│ covertype_test_score │ 0.753000020980835 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 214.20it/s +Test metrics: [{'covertype_test_loss': 0.5728349089622498, 'lr': 0.0, 'covertype_test_accuracy': 0.753000020980835, 'covertype_test_precision': 0.7521750330924988, 'covertype_test_recall': 0.753000020980835, 'covertype_test_f1-score': 0.7502666711807251, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.753000020980835}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 987 samples (51.95%) + Class 2: 728 samples (38.32%) + Class 3: 56 samples (2.95%) + Class 4: 73 samples (3.84%) + Class 5: 42 samples (2.21%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7605 +covertype_test_precision 5% removed: 0.7602 +covertype_test_recall 5% removed: 0.7605 +covertype_test_f1-score 5% removed: 0.7586 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 957 samples (53.17%) + Class 2: 716 samples (39.78%) + Class 3: 55 samples (3.06%) + Class 4: 43 samples (2.39%) + Class 5: 15 samples (0.83%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7661 +covertype_test_precision 10% removed: 0.7643 +covertype_test_recall 10% removed: 0.7661 +covertype_test_f1-score 10% removed: 0.7634 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 10 samples (0.62%) + Class 1: 854 samples (53.37%) + Class 2: 647 samples (40.44%) + Class 3: 52 samples (3.25%) + Class 4: 30 samples (1.88%) + Class 5: 6 samples (0.38%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7744 +covertype_test_precision 20% removed: 0.7739 +covertype_test_recall 20% removed: 0.7744 +covertype_test_f1-score 20% removed: 0.7721 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 534 samples (53.40%) + Class 2: 406 samples (40.60%) + Class 3: 48 samples (4.80%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7830 +covertype_test_precision 50% removed: 0.7799 +covertype_test_recall 50% removed: 0.7830 +covertype_test_f1-score 50% removed: 0.7801 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpru5nx1qb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpru5nx1qb/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpru5nx1qb/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpru5nx1qb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 57.44it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7467467188835144 │ +│ covertype_val_f1-score │ 0.7378899455070496 │ +│ covertype_val_loss │ 0.6087225079536438 │ +│ covertype_val_precision │ 0.7314435243606567 │ +│ covertype_val_recall │ 0.7467467188835144 │ +│ covertype_val_score │ 0.7467467188835144 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 72.76it/s +Validation metrics: [{'covertype_val_loss': 0.6087225079536438, 'lr': 0.0, 'covertype_val_accuracy': 0.7467467188835144, 'covertype_val_precision': 0.7314435243606567, 'covertype_val_recall': 0.7467467188835144, 'covertype_val_f1-score': 0.7378899455070496, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7467467188835144}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 5 samples (0.25%) + Class 1: 1033 samples (51.65%) + Class 2: 729 samples (36.45%) + Class 3: 50 samples (2.50%) + Class 4: 145 samples (7.25%) + Class 5: 35 samples (1.75%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7390000224113464 │ +│ covertype_test_f1-score │ 0.7314197421073914 │ +│ covertype_test_loss │ 0.6019879579544067 │ +│ covertype_test_precision │ 0.7292728424072266 │ +│ covertype_test_recall │ 0.7390000224113464 │ +│ covertype_test_score │ 0.7390000224113464 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 90.84it/s +Test metrics: [{'covertype_test_loss': 0.6019879579544067, 'lr': 0.0, 'covertype_test_accuracy': 0.7390000224113464, 'covertype_test_precision': 0.7292728424072266, 'covertype_test_recall': 0.7390000224113464, 'covertype_test_f1-score': 0.7314197421073914, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7390000224113464}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 1 samples (0.05%) + Class 1: 1015 samples (53.42%) + Class 2: 723 samples (38.05%) + Class 3: 49 samples (2.58%) + Class 4: 79 samples (4.16%) + Class 5: 33 samples (1.74%) +============================================================ +covertype_test_accuracy 5% removed: 0.7458 +covertype_test_precision 5% removed: 0.7334 +covertype_test_recall 5% removed: 0.7458 +covertype_test_f1-score 5% removed: 0.7387 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 983 samples (54.61%) + Class 2: 711 samples (39.50%) + Class 3: 48 samples (2.67%) + Class 4: 42 samples (2.33%) + Class 5: 15 samples (0.83%) +============================================================ +covertype_test_accuracy 10% removed: 0.7483 +covertype_test_precision 10% removed: 0.7343 +covertype_test_recall 10% removed: 0.7483 +covertype_test_f1-score 10% removed: 0.7407 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 871 samples (54.44%) + Class 2: 648 samples (40.50%) + Class 3: 46 samples (2.88%) + Class 4: 29 samples (1.81%) + Class 5: 6 samples (0.38%) +============================================================ +covertype_test_accuracy 20% removed: 0.7538 +covertype_test_precision 20% removed: 0.7411 +covertype_test_recall 20% removed: 0.7538 +covertype_test_f1-score 20% removed: 0.7467 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 549 samples (54.90%) + Class 2: 406 samples (40.60%) + Class 3: 39 samples (3.90%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7580 +covertype_test_precision 50% removed: 0.7461 +covertype_test_recall 50% removed: 0.7580 +covertype_test_f1-score 50% removed: 0.7510 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpru5nx1qb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpru5nx1qb/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpru5nx1qb/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpru5nx1qb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 77.45it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7587587833404541 │ +│ covertype_val_f1-score │ 0.7544061541557312 │ +│ covertype_val_loss │ 0.5835789442062378 │ +│ covertype_val_precision │ 0.7577813863754272 │ +│ covertype_val_recall │ 0.7587587833404541 │ +│ covertype_val_score │ 0.7587587833404541 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 66.07it/s +Validation metrics: [{'covertype_val_loss': 0.5835789442062378, 'lr': 0.0, 'covertype_val_accuracy': 0.7587587833404541, 'covertype_val_precision': 0.7577813863754272, 'covertype_val_recall': 0.7587587833404541, 'covertype_val_f1-score': 0.7544061541557312, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7587587833404541}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 13 samples (0.65%) + Class 1: 1018 samples (50.90%) + Class 2: 720 samples (36.00%) + Class 3: 59 samples (2.95%) + Class 4: 138 samples (6.90%) + Class 5: 52 samples (2.60%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7565000057220459 │ +│ covertype_test_f1-score │ 0.7537060976028442 │ +│ covertype_test_loss │ 0.566794216632843 │ +│ covertype_test_precision │ 0.7557965517044067 │ +│ covertype_test_recall │ 0.7565000057220459 │ +│ covertype_test_score │ 0.7565000057220459 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 73.52it/s +Test metrics: [{'covertype_test_loss': 0.566794216632843, 'lr': 0.0, 'covertype_test_accuracy': 0.7565000057220459, 'covertype_test_precision': 0.7557965517044067, 'covertype_test_recall': 0.7565000057220459, 'covertype_test_f1-score': 0.7537060976028442, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7565000057220459}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 12 samples (0.63%) + Class 1: 997 samples (52.47%) + Class 2: 714 samples (37.58%) + Class 3: 58 samples (3.05%) + Class 4: 68 samples (3.58%) + Class 5: 51 samples (2.68%) +============================================================ +covertype_test_accuracy 5% removed: 0.7621 +covertype_test_precision 5% removed: 0.7629 +covertype_test_recall 5% removed: 0.7621 +covertype_test_f1-score 5% removed: 0.7605 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 12 samples (0.67%) + Class 1: 968 samples (53.78%) + Class 2: 702 samples (39.00%) + Class 3: 57 samples (3.17%) + Class 4: 44 samples (2.44%) + Class 5: 17 samples (0.94%) +============================================================ +covertype_test_accuracy 10% removed: 0.7667 +covertype_test_precision 10% removed: 0.7659 +covertype_test_recall 10% removed: 0.7667 +covertype_test_f1-score 10% removed: 0.7642 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 858 samples (53.62%) + Class 2: 638 samples (39.88%) + Class 3: 54 samples (3.38%) + Class 4: 30 samples (1.88%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7731 +covertype_test_precision 20% removed: 0.7741 +covertype_test_recall 20% removed: 0.7731 +covertype_test_f1-score 20% removed: 0.7717 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 546 samples (54.60%) + Class 2: 392 samples (39.20%) + Class 3: 48 samples (4.80%) + Class 4: 6 samples (0.60%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7800 +covertype_test_precision 50% removed: 0.7804 +covertype_test_recall 50% removed: 0.7800 +covertype_test_f1-score 50% removed: 0.7782 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpru5nx1qb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpru5nx1qb/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpru5nx1qb/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpru5nx1qb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 52.74it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7377377152442932 │ +│ covertype_val_f1-score │ 0.7325303554534912 │ +│ covertype_val_loss │ 0.5932576656341553 │ +│ covertype_val_precision │ 0.7372550368309021 │ +│ covertype_val_recall │ 0.7377377152442932 │ +│ covertype_val_score │ 0.7377377152442932 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 155.98it/s +Validation metrics: [{'covertype_val_loss': 0.5932576656341553, 'lr': 0.0, 'covertype_val_accuracy': 0.7377377152442932, 'covertype_val_precision': 0.7372550368309021, 'covertype_val_recall': 0.7377377152442932, 'covertype_val_f1-score': 0.7325303554534912, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7377377152442932}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 6 samples (0.30%) + Class 1: 1021 samples (51.05%) + Class 2: 725 samples (36.25%) + Class 3: 52 samples (2.60%) + Class 4: 144 samples (7.20%) + Class 5: 47 samples (2.35%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7490000128746033 │ +│ covertype_test_f1-score │ 0.7447144389152527 │ +│ covertype_test_loss │ 0.5896874666213989 │ +│ covertype_test_precision │ 0.7492704391479492 │ +│ covertype_test_recall │ 0.7490000128746033 │ +│ covertype_test_score │ 0.7490000128746033 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 91.54it/s +Test metrics: [{'covertype_test_loss': 0.5896874666213989, 'lr': 0.0, 'covertype_test_accuracy': 0.7490000128746033, 'covertype_test_precision': 0.7492704391479492, 'covertype_test_recall': 0.7490000128746033, 'covertype_test_f1-score': 0.7447144389152527, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7490000128746033}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 699 samples (36.79%) + Class 3: 62 samples (3.26%) + Class 4: 63 samples (3.32%) + Class 5: 44 samples (2.32%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 6 samples (0.32%) + Class 1: 1004 samples (52.84%) + Class 2: 719 samples (37.84%) + Class 3: 51 samples (2.68%) + Class 4: 72 samples (3.79%) + Class 5: 47 samples (2.47%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7553 +covertype_test_precision 5% removed: 0.7563 +covertype_test_recall 5% removed: 0.7553 +covertype_test_f1-score 5% removed: 0.7520 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 956 samples (53.11%) + Class 2: 689 samples (38.28%) + Class 3: 61 samples (3.39%) + Class 4: 40 samples (2.22%) + Class 5: 19 samples (1.06%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 6 samples (0.33%) + Class 1: 975 samples (54.17%) + Class 2: 707 samples (39.28%) + Class 3: 50 samples (2.78%) + Class 4: 43 samples (2.39%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7622 +covertype_test_precision 10% removed: 0.7618 +covertype_test_recall 10% removed: 0.7622 +covertype_test_f1-score 10% removed: 0.7580 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 633 samples (39.56%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 5 samples (0.31%) + Class 1: 868 samples (54.25%) + Class 2: 643 samples (40.19%) + Class 3: 47 samples (2.94%) + Class 4: 31 samples (1.94%) + Class 5: 5 samples (0.31%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7694 +covertype_test_precision 20% removed: 0.7708 +covertype_test_recall 20% removed: 0.7694 +covertype_test_f1-score 20% removed: 0.7655 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 556 samples (55.60%) + Class 2: 391 samples (39.10%) + Class 3: 42 samples (4.20%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7780 +covertype_test_precision 50% removed: 0.7767 +covertype_test_recall 50% removed: 0.7780 +covertype_test_f1-score 50% removed: 0.7743 +Wrote results for fttransformer on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/fttransformer_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7490±0.0082 5%: 0.7558±0.0079 10%: 0.7606±0.0092 20%: 0.7679±0.0102 50%: 0.7754±0.0123 +covertype_test_precision 0%: 0.7477±0.0131 5%: 0.7544±0.0149 10%: 0.7577±0.0164 20%: 0.7666±0.0177 50%: 0.7723±0.0183 +covertype_test_recall 0%: 0.7490±0.0082 5%: 0.7558±0.0079 10%: 0.7606±0.0092 20%: 0.7679±0.0102 50%: 0.7754±0.0123 +covertype_test_f1-score 0%: 0.7449±0.0105 5%: 0.7526±0.0106 10%: 0.7566±0.0117 20%: 0.7645±0.0129 50%: 0.7718±0.0147 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'xgboost'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=xgboost --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy --use_split_assignments=True --exp_train_total_epochs=1 --split_config_file=/tmp/tmpz4z8d_7i/split_data/split_config.json --sigma_aggregation=mean --n_estimators=100 --max_depth=3 --learning_rate=0.1 --subsample=1.0 --colsample_bytree=1.0 --reg_alpha=0.0 --reg_lambda=1.0 --n_jobs=-1 --random_state=42 --encoder_type=linear_flatten --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpz4z8d_7i/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 64 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ -1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.0001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ xgboost │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpz4z8d_7i/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpz4z8d_7i/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 1e-05 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: xgboost + +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +XGBoostLightning [1, 3456] [1, 3456] -- -- -- +===================================================================================================================================================================== +Total params: 0 +Trainable params: 0 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 0 +===================================================================================================================================================================== +Input size (MB): 0.01 +Forward/backward pass size (MB): 0.00 +Params size (MB): 0.00 +Estimated Total Size (MB): 0.01 +===================================================================================================================================================================== +GPU available: True (cuda), used: False +TPU available: False, using: 0 TPU cores +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/setup.py:175: GPU available but not used. You can set it by doing `Trainer(accelerator='gpu')`. +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1)` was configured so 1 batch per epoch will be used. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/core/optimizer.py:183: `LightningModule.configure_optimizers` returned `None`, this fit will run with no optimizer +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Identity │ 0 │ train │ 0 │ +│ 2 │ encoder │ Identity │ 0 │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 0 +Non-trainable params: 0 +Total params: 0 +Total estimated model params size (MB): 0.000 +Modules in train mode: 3 +Modules in eval mode: 0 +Total FLOPs: 0 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue3-gpu2-kl1e-7.log b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue3-gpu2-kl1e-7.log new file mode 100644 index 0000000000000000000000000000000000000000..ac9ba73f2db2db2e6b412ef2b220b687784e3fe9 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue3-gpu2-kl1e-7.log @@ -0,0 +1,16974 @@ +[2026-09-17T17:19:37+00:00] tag=queue3-gpu2-kl1e-7 gpu=2 dataset=covertype predictive_kl_end=0.0000001 full=0.001875 sx=0.00075 +{ + "dataset": "covertype", + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "1e-07", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} +Not SLURM job. +╒══════════════════════════════════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ mock │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ activation_checkpointing │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ deterministic_mode │ warn │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pre_evaluation │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 512 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 500 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ improvement │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_val_cache_cadence │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ init_type │ trunc_normal │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_start_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_lr │ 0.0005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 12 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_ipe_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_gradient_clipping │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_type_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_index_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dropout_prob │ 0.0015 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_hidden │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_feedforward │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_heads │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_layers │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_act_func │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_cadence │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_model │ linear_probe │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ n_cls_tokens │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_type │ transformer │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_layers │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_embed_dim │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_heads │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_p_dropout │ 0.002 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_activation │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_dim_feedforward │ 256 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_allow_overlap │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_ctx_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_ctx_share │ 0.35 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_trgt_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_trgt_share │ 0.6 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_preds │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_encs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mu_init_std │ 0.03 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_std │ 0.005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_bias │ -4.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_x_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_y_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_evaluation_epochs │ 50 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_probe_patience │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_representation_type │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_encoder_type │ target_posterior │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_target_posterior │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_auxiliary_encoder │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_end_weight │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_end_weight │ 1e-07 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_annealing_epochs │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_x_weight │ 0.001 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_y_weight │ 0.5 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ latent_architecture │ stochastic │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ jepa_objective │ w_jepa_joint │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_full_num_projections │ 2048 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_marginal_num_projections │ 1024 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_p │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_include_marginals │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_x_weight │ 0.00075 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_z_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_y_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_end_weight │ 0.001875 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ safe_exit │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_selection │ filtered_20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sigma_aggregation │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ subset_size │ -1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ is_batchlearning │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ iteration │ 0 │ +╘══════════════════════════════════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════╛ + +CUDA Device Information: +CUDA_VISIBLE_DEVICES: 2 +Number of CUDA devices: 1 +Current CUDA device: 0 +CUDA device name: NVIDIA A100-SXM4-80GB + +Using device: cuda:0 +Device name: NVIDIA A100-SXM4-80GB +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +VariationalTJEPA parameters: ++-------------------------+---------+ +| Parameter | Value | ++=========================+=========+ +| hidden_dim | 64 | ++-------------------------+---------+ +| num_layers | 8 | ++-------------------------+---------+ +| num_heads | 8 | ++-------------------------+---------+ +| p_dropout | 0.0015 | ++-------------------------+---------+ +| layer_norm_eps | 1e-05 | ++-------------------------+---------+ +| feature_type_embedding | True | ++-------------------------+---------+ +| feature_index_embedding | True | ++-------------------------+---------+ +| dim_feedforward | 64 | ++-------------------------+---------+ +| use_reg_token | True | ++-------------------------+---------+ +| gradient_clipping | 1.0 | ++-------------------------+---------+ +| activation | gelu | ++-------------------------+---------+ +| num_features | 54 | ++-------------------------+---------+ +| n_cls_tokens | 1 | ++-------------------------+---------+ +MaskCollator params: +----------------- ----- +Allow overlap False +Min context share 0.15 +Max context share 0.35 +Min target share 0.15 +Max target share 0.6 +Min context 8 +Max context 18 +Min target 8 +Max target 32 +Num preds 4 +Num encs 1 +Num features 54 +Cardinalities [] +Base mask seed 0 +----------------- ----- +KL-x annealing: start=0.0 for 20 steps, then anneal to 1e-06 over 1200 steps. +KL-z annealing: start=0.0 for 20 steps, then anneal to 1e-05 over 1200 steps. +KL-y annealing: start=0.0 for 20 steps, then anneal to 1e-07 over 400 steps. +W-JEPA marginal-scale annealing (s_x): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (z): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (s_y): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +Configuration saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/vtjepa_config.yaml +All results will be saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009 +[VTJEPA] Running downstream probe before training begins +Using full dataset for embedding generation: covertype +Generating embedding using: JEPAEmbeddingEncoder on full dataset + 0%| | 0/20 [00:00= 15) +[VTJEPA] Early stopping triggered at epoch 48 + Best downstream validation score: 0.755000 at epoch 17 + No improvement for 15 probe evaluations +Restored best downstream-selected checkpoint from epoch 17. +Training completed. +[2026-09-17T17:42:23+00:00] tag=queue3-gpu2-kl1e-7 dataset=covertype starting downstream models=mlp,dcnv2,resnet,autoint,fttransformer,xgboost +[Config] Loaded sigma_aggregation=mean from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/vtjepa_config.yaml +[Config] Loaded training data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/vtjepa_config.yaml +Split statistics: + val: 999 samples + test: 2000 samples + train: 7001 samples +Running downstream for dataset 'covertype', model 'mlp'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp45z62ir6/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp45z62ir6/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp45z62ir6/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp45z62ir6/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 27/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 142.96it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7227227091789246 │ +│ covertype_val_f1-score │ 0.7107617855072021 │ +│ covertype_val_loss │ 0.6648762226104736 │ +│ covertype_val_precision │ 0.722088634967804 │ +│ covertype_val_recall │ 0.7227227091789246 │ +│ covertype_val_score │ 0.7227227091789246 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 538.68it/s +Validation metrics: [{'covertype_val_loss': 0.6648762226104736, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7227227091789246, 'covertype_val_precision': 0.722088634967804, 'covertype_val_recall': 0.7227227091789246, 'covertype_val_f1-score': 0.7107617855072021, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7227227091789246}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 964 samples (48.20%) + Class 2: 804 samples (40.20%) + Class 3: 52 samples (2.60%) + Class 4: 160 samples (8.00%) + Class 5: 15 samples (0.75%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7095000147819519 │ +│ covertype_test_f1-score │ 0.6981251835823059 │ +│ covertype_test_loss │ 0.6649483442306519 │ +│ covertype_test_precision │ 0.698875367641449 │ +│ covertype_test_recall │ 0.7095000147819519 │ +│ covertype_test_score │ 0.7095000147819519 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 359.90it/s +Test metrics: [{'covertype_test_loss': 0.6649483442306519, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7095000147819519, 'covertype_test_precision': 0.698875367641449, 'covertype_test_recall': 0.7095000147819519, 'covertype_test_f1-score': 0.6981251835823059, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7095000147819519}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 946 samples (49.79%) + Class 2: 799 samples (42.05%) + Class 3: 52 samples (2.74%) + Class 4: 87 samples (4.58%) + Class 5: 14 samples (0.74%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7132 +covertype_test_precision 5% removed: 0.7045 +covertype_test_recall 5% removed: 0.7132 +covertype_test_f1-score 5% removed: 0.7047 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 911 samples (50.61%) + Class 2: 786 samples (43.67%) + Class 3: 51 samples (2.83%) + Class 4: 41 samples (2.28%) + Class 5: 9 samples (0.50%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7189 +covertype_test_precision 10% removed: 0.7099 +covertype_test_recall 10% removed: 0.7189 +covertype_test_f1-score 10% removed: 0.7121 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 801 samples (50.06%) + Class 2: 718 samples (44.88%) + Class 3: 48 samples (3.00%) + Class 4: 28 samples (1.75%) + Class 5: 4 samples (0.25%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7206 +covertype_test_precision 20% removed: 0.7132 +covertype_test_recall 20% removed: 0.7206 +covertype_test_f1-score 20% removed: 0.7147 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 522 samples (52.20%) + Class 2: 428 samples (42.80%) + Class 3: 44 samples (4.40%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7310 +covertype_test_precision 50% removed: 0.7196 +covertype_test_recall 50% removed: 0.7310 +covertype_test_f1-score 50% removed: 0.7251 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp45z62ir6/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp45z62ir6/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp45z62ir6/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp45z62ir6/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 236.14it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7227227091789246 │ +│ covertype_val_f1-score │ 0.7096958160400391 │ +│ covertype_val_loss │ 0.6677659749984741 │ +│ covertype_val_precision │ 0.7334301471710205 │ +│ covertype_val_recall │ 0.7227227091789246 │ +│ covertype_val_score │ 0.7227227091789246 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 562.74it/s +Validation metrics: [{'covertype_val_loss': 0.6677659749984741, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7227227091789246, 'covertype_val_precision': 0.7334301471710205, 'covertype_val_recall': 0.7227227091789246, 'covertype_val_f1-score': 0.7096958160400391, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7227227091789246}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 2 samples (0.10%) + Class 1: 1008 samples (50.40%) + Class 2: 754 samples (37.70%) + Class 3: 61 samples (3.05%) + Class 4: 158 samples (7.90%) + Class 5: 8 samples (0.40%) + Class 6: 9 samples (0.45%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7174999713897705 │ +│ covertype_test_f1-score │ 0.7044462561607361 │ +│ covertype_test_loss │ 0.6570108532905579 │ +│ covertype_test_precision │ 0.705305278301239 │ +│ covertype_test_recall │ 0.7174999713897705 │ +│ covertype_test_score │ 0.7174999713897705 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 582.65it/s +Test metrics: [{'covertype_test_loss': 0.6570108532905579, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7174999713897705, 'covertype_test_precision': 0.705305278301239, 'covertype_test_recall': 0.7174999713897705, 'covertype_test_f1-score': 0.7044462561607361, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7174999713897705}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 2 samples (0.11%) + Class 1: 991 samples (52.16%) + Class 2: 749 samples (39.42%) + Class 3: 61 samples (3.21%) + Class 4: 89 samples (4.68%) + Class 5: 6 samples (0.32%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7216 +covertype_test_precision 5% removed: 0.7101 +covertype_test_recall 5% removed: 0.7216 +covertype_test_f1-score 5% removed: 0.7110 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 2 samples (0.11%) + Class 1: 954 samples (53.00%) + Class 2: 736 samples (40.89%) + Class 3: 59 samples (3.28%) + Class 4: 42 samples (2.33%) + Class 5: 5 samples (0.28%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7278 +covertype_test_precision 10% removed: 0.7148 +covertype_test_recall 10% removed: 0.7278 +covertype_test_f1-score 10% removed: 0.7198 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 837 samples (52.31%) + Class 2: 675 samples (42.19%) + Class 3: 56 samples (3.50%) + Class 4: 28 samples (1.75%) + Class 5: 2 samples (0.12%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7337 +covertype_test_precision 20% removed: 0.7226 +covertype_test_recall 20% removed: 0.7337 +covertype_test_f1-score 20% removed: 0.7268 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 544 samples (54.40%) + Class 2: 399 samples (39.90%) + Class 3: 51 samples (5.10%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7500 +covertype_test_precision 50% removed: 0.7373 +covertype_test_recall 50% removed: 0.7500 +covertype_test_f1-score 50% removed: 0.7430 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp45z62ir6/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp45z62ir6/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp45z62ir6/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp45z62ir6/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 42/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 96.44it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7387387156486511 │ +│ covertype_val_f1-score │ 0.7312995195388794 │ +│ covertype_val_loss │ 0.6374411582946777 │ +│ covertype_val_precision │ 0.7327114343643188 │ +│ covertype_val_recall │ 0.7387387156486511 │ +│ covertype_val_score │ 0.7387387156486511 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 183.18it/s +Validation metrics: [{'covertype_val_loss': 0.6374411582946777, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7387387156486511, 'covertype_val_precision': 0.7327114343643188, 'covertype_val_recall': 0.7387387156486511, 'covertype_val_f1-score': 0.7312995195388794, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7387387156486511}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 972 samples (48.60%) + Class 2: 761 samples (38.05%) + Class 3: 55 samples (2.75%) + Class 4: 157 samples (7.85%) + Class 5: 49 samples (2.45%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7164999842643738 │ +│ covertype_test_f1-score │ 0.7106595039367676 │ +│ covertype_test_loss │ 0.6355630159378052 │ +│ covertype_test_precision │ 0.7091344594955444 │ +│ covertype_test_recall │ 0.7164999842643738 │ +│ covertype_test_score │ 0.7164999842643738 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 157.60it/s +Test metrics: [{'covertype_test_loss': 0.6355630159378052, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7164999842643738, 'covertype_test_precision': 0.7091344594955444, 'covertype_test_recall': 0.7164999842643738, 'covertype_test_f1-score': 0.7106595039367676, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7164999842643738}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 959 samples (50.47%) + Class 2: 756 samples (39.79%) + Class 3: 55 samples (2.89%) + Class 4: 83 samples (4.37%) + Class 5: 46 samples (2.42%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7221 +covertype_test_precision 5% removed: 0.7155 +covertype_test_recall 5% removed: 0.7221 +covertype_test_f1-score 5% removed: 0.7173 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 931 samples (51.72%) + Class 2: 743 samples (41.28%) + Class 3: 53 samples (2.94%) + Class 4: 44 samples (2.44%) + Class 5: 28 samples (1.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7283 +covertype_test_precision 10% removed: 0.7200 +covertype_test_recall 10% removed: 0.7283 +covertype_test_f1-score 10% removed: 0.7229 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 828 samples (51.75%) + Class 2: 680 samples (42.50%) + Class 3: 50 samples (3.12%) + Class 4: 29 samples (1.81%) + Class 5: 12 samples (0.75%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7362 +covertype_test_precision 20% removed: 0.7267 +covertype_test_recall 20% removed: 0.7362 +covertype_test_f1-score 20% removed: 0.7309 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 536 samples (53.60%) + Class 2: 413 samples (41.30%) + Class 3: 45 samples (4.50%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7530 +covertype_test_precision 50% removed: 0.7403 +covertype_test_recall 50% removed: 0.7530 +covertype_test_f1-score 50% removed: 0.7464 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp45z62ir6/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp45z62ir6/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp45z62ir6/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp45z62ir6/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 39/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 62.05it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7207207083702087 │ +│ covertype_val_f1-score │ 0.6967337727546692 │ +│ covertype_val_loss │ 0.7679976224899292 │ +│ covertype_val_precision │ 0.6840154528617859 │ +│ covertype_val_recall │ 0.7207207083702087 │ +│ covertype_val_score │ 0.7207207083702087 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 474.83it/s +Validation metrics: [{'covertype_val_loss': 0.7679976224899292, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7207207083702087, 'covertype_val_precision': 0.6840154528617859, 'covertype_val_recall': 0.7207207083702087, 'covertype_val_f1-score': 0.6967337727546692, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7207207083702087}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1096 samples (54.80%) + Class 2: 770 samples (38.50%) + Class 3: 25 samples (1.25%) + Class 4: 107 samples (5.35%) + Class 5: 2 samples (0.10%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7045000195503235 │ +│ covertype_test_f1-score │ 0.6833998560905457 │ +│ covertype_test_loss │ 0.7205773591995239 │ +│ covertype_test_precision │ 0.6714348196983337 │ +│ covertype_test_recall │ 0.7045000195503235 │ +│ covertype_test_score │ 0.7045000195503235 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 508.32it/s +Test metrics: [{'covertype_test_loss': 0.7205773591995239, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7045000195503235, 'covertype_test_precision': 0.6714348196983337, 'covertype_test_recall': 0.7045000195503235, 'covertype_test_f1-score': 0.6833998560905457, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7045000195503235}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1047 samples (55.11%) + Class 2: 765 samples (40.26%) + Class 3: 25 samples (1.32%) + Class 4: 61 samples (3.21%) + Class 5: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7137 +covertype_test_precision 5% removed: 0.6882 +covertype_test_recall 5% removed: 0.7137 +covertype_test_f1-score 5% removed: 0.6964 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 991 samples (55.06%) + Class 2: 751 samples (41.72%) + Class 3: 23 samples (1.28%) + Class 4: 33 samples (1.83%) + Class 5: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7194 +covertype_test_precision 10% removed: 0.7021 +covertype_test_recall 10% removed: 0.7194 +covertype_test_f1-score 10% removed: 0.7058 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 867 samples (54.19%) + Class 2: 689 samples (43.06%) + Class 3: 20 samples (1.25%) + Class 4: 22 samples (1.38%) + Class 5: 2 samples (0.12%) +============================================================ +covertype_test_accuracy 20% removed: 0.7250 +covertype_test_precision 20% removed: 0.7138 +covertype_test_recall 20% removed: 0.7250 +covertype_test_f1-score 20% removed: 0.7138 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 548 samples (54.80%) + Class 2: 426 samples (42.60%) + Class 3: 20 samples (2.00%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7350 +covertype_test_precision 50% removed: 0.7273 +covertype_test_recall 50% removed: 0.7350 +covertype_test_f1-score 50% removed: 0.7254 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp45z62ir6/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp45z62ir6/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp45z62ir6/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp45z62ir6/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 40/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 139.21it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.6026026010513306 │ +│ covertype_val_f1-score │ 0.558599054813385 │ +│ covertype_val_loss │ 1.1378414630889893 │ +│ covertype_val_precision │ 0.6324437856674194 │ +│ covertype_val_recall │ 0.6026026010513306 │ +│ covertype_val_score │ 0.6026026010513306 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 333.50it/s +Validation metrics: [{'covertype_val_loss': 1.1378414630889893, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.6026026010513306, 'covertype_val_precision': 0.6324437856674194, 'covertype_val_recall': 0.6026026010513306, 'covertype_val_f1-score': 0.558599054813385, 'covertype_val_support': 999.0, 'covertype_val_score': 0.6026026010513306}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 105 samples (5.25%) + Class 1: 1412 samples (70.60%) + Class 2: 209 samples (10.45%) + Class 3: 41 samples (2.05%) + Class 4: 232 samples (11.60%) + Class 6: 1 samples (0.05%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6004999876022339 │ +│ covertype_test_f1-score │ 0.5573390126228333 │ +│ covertype_test_loss │ 1.3935574293136597 │ +│ covertype_test_precision │ 0.6632087230682373 │ +│ covertype_test_recall │ 0.6004999876022339 │ +│ covertype_test_score │ 0.6004999876022339 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 425.33it/s +Test metrics: [{'covertype_test_loss': 1.3935574293136597, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6004999876022339, 'covertype_test_precision': 0.6632087230682373, 'covertype_test_recall': 0.6004999876022339, 'covertype_test_f1-score': 0.5573390126228333, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6004999876022339}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 104 samples (5.47%) + Class 1: 1401 samples (73.74%) + Class 2: 205 samples (10.79%) + Class 3: 41 samples (2.16%) + Class 4: 148 samples (7.79%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.6037 +covertype_test_precision 5% removed: 0.6744 +covertype_test_recall 5% removed: 0.6037 +covertype_test_f1-score 5% removed: 0.5621 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 103 samples (5.72%) + Class 1: 1367 samples (75.94%) + Class 2: 199 samples (11.06%) + Class 3: 39 samples (2.17%) + Class 4: 91 samples (5.06%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.6056 +covertype_test_precision 10% removed: 0.6826 +covertype_test_recall 10% removed: 0.6056 +covertype_test_f1-score 10% removed: 0.5643 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 92 samples (5.75%) + Class 1: 1239 samples (77.44%) + Class 2: 184 samples (11.50%) + Class 3: 36 samples (2.25%) + Class 4: 48 samples (3.00%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.6106 +covertype_test_precision 20% removed: 0.6918 +covertype_test_recall 20% removed: 0.6106 +covertype_test_f1-score 20% removed: 0.5689 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 42 samples (4.20%) + Class 1: 796 samples (79.60%) + Class 2: 121 samples (12.10%) + Class 3: 34 samples (3.40%) + Class 4: 6 samples (0.60%) + Class 6: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.6260 +covertype_test_precision 50% removed: 0.7160 +covertype_test_recall 50% removed: 0.6260 +covertype_test_f1-score 50% removed: 0.5791 +Wrote results for mlp on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/mlp_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.6897±0.0623 5%: 0.6948±0.0635 10%: 0.7000±0.0658 20%: 0.7053±0.0661 50%: 0.7190±0.0656 +covertype_test_precision 0%: 0.6896±0.0259 5%: 0.6985±0.0210 10%: 0.7059±0.0181 20%: 0.7136±0.0167 50%: 0.7281±0.0132 +covertype_test_recall 0%: 0.6897±0.0623 5%: 0.6948±0.0635 10%: 0.7000±0.0658 20%: 0.7053±0.0661 50%: 0.7190±0.0656 +covertype_test_f1-score 0%: 0.6708±0.0797 5%: 0.6783±0.0812 10%: 0.6850±0.0841 20%: 0.6910±0.0852 50%: 0.7038±0.0874 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'dcnv2'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp3l0znj_o/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp3l0znj_o/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp3l0znj_o/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp3l0znj_o/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 130.25it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7757757902145386 │ +│ covertype_val_f1-score │ 0.7696642279624939 │ +│ covertype_val_loss │ 0.5684962272644043 │ +│ covertype_val_precision │ 0.7695592641830444 │ +│ covertype_val_recall │ 0.7757757902145386 │ +│ covertype_val_score │ 0.7757757902145386 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 475.14it/s +Validation metrics: [{'covertype_val_loss': 0.5684962272644043, 'lr': 0.0, 'covertype_val_accuracy': 0.7757757902145386, 'covertype_val_precision': 0.7695592641830444, 'covertype_val_recall': 0.7757757902145386, 'covertype_val_f1-score': 0.7696642279624939, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7757757902145386}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 1033 samples (51.65%) + Class 2: 691 samples (34.55%) + Class 3: 62 samples (3.10%) + Class 4: 137 samples (6.85%) + Class 5: 56 samples (2.80%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7870000004768372 │ +│ covertype_test_f1-score │ 0.7852408289909363 │ +│ covertype_test_loss │ 0.5587407350540161 │ +│ covertype_test_precision │ 0.7866018414497375 │ +│ covertype_test_recall │ 0.7870000004768372 │ +│ covertype_test_score │ 0.7870000004768372 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 400.78it/s +Test metrics: [{'covertype_test_loss': 0.5587407350540161, 'lr': 0.0, 'covertype_test_accuracy': 0.7870000004768372, 'covertype_test_precision': 0.7866018414497375, 'covertype_test_recall': 0.7870000004768372, 'covertype_test_f1-score': 0.7852408289909363, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7870000004768372}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 1012 samples (53.26%) + Class 2: 686 samples (36.11%) + Class 3: 62 samples (3.26%) + Class 4: 70 samples (3.68%) + Class 5: 53 samples (2.79%) +============================================================ +covertype_test_accuracy 5% removed: 0.7926 +covertype_test_precision 5% removed: 0.7913 +covertype_test_recall 5% removed: 0.7926 +covertype_test_f1-score 5% removed: 0.7912 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 980 samples (54.44%) + Class 2: 673 samples (37.39%) + Class 3: 61 samples (3.39%) + Class 4: 47 samples (2.61%) + Class 5: 23 samples (1.28%) +============================================================ +covertype_test_accuracy 10% removed: 0.7994 +covertype_test_precision 10% removed: 0.7967 +covertype_test_recall 10% removed: 0.7994 +covertype_test_f1-score 10% removed: 0.7971 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 874 samples (54.62%) + Class 2: 612 samples (38.25%) + Class 3: 57 samples (3.56%) + Class 4: 31 samples (1.94%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.8031 +covertype_test_precision 20% removed: 0.8017 +covertype_test_recall 20% removed: 0.8031 +covertype_test_f1-score 20% removed: 0.8016 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 554 samples (55.40%) + Class 2: 384 samples (38.40%) + Class 3: 50 samples (5.00%) + Class 4: 6 samples (0.60%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8100 +covertype_test_precision 50% removed: 0.8097 +covertype_test_recall 50% removed: 0.8100 +covertype_test_f1-score 50% removed: 0.8068 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp3l0znj_o/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp3l0znj_o/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp3l0znj_o/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp3l0znj_o/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 45/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 111.30it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7697697877883911 │ +│ covertype_val_f1-score │ 0.7654963135719299 │ +│ covertype_val_loss │ 0.5744432210922241 │ +│ covertype_val_precision │ 0.7664703726768494 │ +│ covertype_val_recall │ 0.7697697877883911 │ +│ covertype_val_score │ 0.7697697877883911 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 1.5708421415183693e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 344.63it/s +Validation metrics: [{'covertype_val_loss': 0.5744432210922241, 'lr': 1.5708421415183693e-05, 'covertype_val_accuracy': 0.7697697877883911, 'covertype_val_precision': 0.7664703726768494, 'covertype_val_recall': 0.7697697877883911, 'covertype_val_f1-score': 0.7654963135719299, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7697697877883911}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 1054 samples (52.70%) + Class 2: 681 samples (34.05%) + Class 3: 59 samples (2.95%) + Class 4: 133 samples (6.65%) + Class 5: 54 samples (2.70%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7879999876022339 │ +│ covertype_test_f1-score │ 0.7860314846038818 │ +│ covertype_test_loss │ 0.5633460879325867 │ +│ covertype_test_precision │ 0.7883714437484741 │ +│ covertype_test_recall │ 0.7879999876022339 │ +│ covertype_test_score │ 0.7879999876022339 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 1.5708415958215483e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 329.01it/s +Test metrics: [{'covertype_test_loss': 0.5633460879325867, 'lr': 1.5708415958215483e-05, 'covertype_test_accuracy': 0.7879999876022339, 'covertype_test_precision': 0.7883714437484741, 'covertype_test_recall': 0.7879999876022339, 'covertype_test_f1-score': 0.7860314846038818, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7879999876022339}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 14 samples (0.74%) + Class 1: 1035 samples (54.47%) + Class 2: 676 samples (35.58%) + Class 3: 59 samples (3.11%) + Class 4: 66 samples (3.47%) + Class 5: 49 samples (2.58%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7942 +covertype_test_precision 5% removed: 0.7948 +covertype_test_recall 5% removed: 0.7942 +covertype_test_f1-score 5% removed: 0.7925 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 14 samples (0.78%) + Class 1: 999 samples (55.50%) + Class 2: 664 samples (36.89%) + Class 3: 57 samples (3.17%) + Class 4: 41 samples (2.28%) + Class 5: 24 samples (1.33%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.8006 +covertype_test_precision 10% removed: 0.8007 +covertype_test_recall 10% removed: 0.8006 +covertype_test_f1-score 10% removed: 0.7985 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 887 samples (55.44%) + Class 2: 604 samples (37.75%) + Class 3: 54 samples (3.38%) + Class 4: 27 samples (1.69%) + Class 5: 13 samples (0.81%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.8037 +covertype_test_precision 20% removed: 0.8034 +covertype_test_recall 20% removed: 0.8037 +covertype_test_f1-score 20% removed: 0.8023 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 560 samples (56.00%) + Class 2: 377 samples (37.70%) + Class 3: 48 samples (4.80%) + Class 4: 6 samples (0.60%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.8040 +covertype_test_precision 50% removed: 0.8054 +covertype_test_recall 50% removed: 0.8040 +covertype_test_f1-score 50% removed: 0.8019 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp3l0znj_o/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp3l0znj_o/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp3l0znj_o/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp3l0znj_o/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 165.13it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.770770788192749 │ +│ covertype_val_f1-score │ 0.7647443413734436 │ +│ covertype_val_loss │ 0.5773428082466125 │ +│ covertype_val_precision │ 0.7680572867393494 │ +│ covertype_val_recall │ 0.770770788192749 │ +│ covertype_val_score │ 0.770770788192749 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 414.83it/s +Validation metrics: [{'covertype_val_loss': 0.5773428082466125, 'lr': 0.0, 'covertype_val_accuracy': 0.770770788192749, 'covertype_val_precision': 0.7680572867393494, 'covertype_val_recall': 0.770770788192749, 'covertype_val_f1-score': 0.7647443413734436, 'covertype_val_support': 999.0, 'covertype_val_score': 0.770770788192749}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 1006 samples (50.30%) + Class 2: 734 samples (36.70%) + Class 3: 56 samples (2.80%) + Class 4: 135 samples (6.75%) + Class 5: 50 samples (2.50%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7875000238418579 │ +│ covertype_test_f1-score │ 0.7854700088500977 │ +│ covertype_test_loss │ 0.5766292810440063 │ +│ covertype_test_precision │ 0.7875819206237793 │ +│ covertype_test_recall │ 0.7875000238418579 │ +│ covertype_test_score │ 0.7875000238418579 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 142.70it/s +Test metrics: [{'covertype_test_loss': 0.5766292810440063, 'lr': 0.0, 'covertype_test_accuracy': 0.7875000238418579, 'covertype_test_precision': 0.7875819206237793, 'covertype_test_recall': 0.7875000238418579, 'covertype_test_f1-score': 0.7854700088500977, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7875000238418579}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 14 samples (0.74%) + Class 1: 985 samples (51.84%) + Class 2: 728 samples (38.32%) + Class 3: 56 samples (2.95%) + Class 4: 70 samples (3.68%) + Class 5: 47 samples (2.47%) +============================================================ +covertype_test_accuracy 5% removed: 0.7921 +covertype_test_precision 5% removed: 0.7915 +covertype_test_recall 5% removed: 0.7921 +covertype_test_f1-score 5% removed: 0.7904 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 14 samples (0.78%) + Class 1: 950 samples (52.78%) + Class 2: 716 samples (39.78%) + Class 3: 54 samples (3.00%) + Class 4: 45 samples (2.50%) + Class 5: 21 samples (1.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7983 +covertype_test_precision 10% removed: 0.7966 +covertype_test_recall 10% removed: 0.7983 +covertype_test_f1-score 10% removed: 0.7961 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 845 samples (52.81%) + Class 2: 653 samples (40.81%) + Class 3: 52 samples (3.25%) + Class 4: 30 samples (1.88%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.8069 +covertype_test_precision 20% removed: 0.8076 +covertype_test_recall 20% removed: 0.8069 +covertype_test_f1-score 20% removed: 0.8054 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 525 samples (52.50%) + Class 2: 417 samples (41.70%) + Class 3: 46 samples (4.60%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.8180 +covertype_test_precision 50% removed: 0.8165 +covertype_test_recall 50% removed: 0.8180 +covertype_test_f1-score 50% removed: 0.8158 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp3l0znj_o/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp3l0znj_o/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp3l0znj_o/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp3l0znj_o/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 42/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 151.40it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7777777910232544 │ +│ covertype_val_f1-score │ 0.7731570601463318 │ +│ covertype_val_loss │ 0.588809072971344 │ +│ covertype_val_precision │ 0.7732892632484436 │ +│ covertype_val_recall │ 0.7777777910232544 │ +│ covertype_val_score │ 0.7777777910232544 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 4.758647264679894e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 289.29it/s +Validation metrics: [{'covertype_val_loss': 0.588809072971344, 'lr': 4.758647264679894e-05, 'covertype_val_accuracy': 0.7777777910232544, 'covertype_val_precision': 0.7732892632484436, 'covertype_val_recall': 0.7777777910232544, 'covertype_val_f1-score': 0.7731570601463318, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7777777910232544}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1031 samples (51.55%) + Class 2: 701 samples (35.05%) + Class 3: 58 samples (2.90%) + Class 4: 136 samples (6.80%) + Class 5: 55 samples (2.75%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.781499981880188 │ +│ covertype_test_f1-score │ 0.7797650098800659 │ +│ covertype_test_loss │ 0.587309718132019 │ +│ covertype_test_precision │ 0.781893253326416 │ +│ covertype_test_recall │ 0.781499981880188 │ +│ covertype_test_score │ 0.781499981880188 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 4.758647264679894e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 379.56it/s +Test metrics: [{'covertype_test_loss': 0.587309718132019, 'lr': 4.758647264679894e-05, 'covertype_test_accuracy': 0.781499981880188, 'covertype_test_precision': 0.781893253326416, 'covertype_test_recall': 0.781499981880188, 'covertype_test_f1-score': 0.7797650098800659, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.781499981880188}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 1013 samples (53.32%) + Class 2: 695 samples (36.58%) + Class 3: 58 samples (3.05%) + Class 4: 69 samples (3.63%) + Class 5: 50 samples (2.63%) +============================================================ +covertype_test_accuracy 5% removed: 0.7879 +covertype_test_precision 5% removed: 0.7868 +covertype_test_recall 5% removed: 0.7879 +covertype_test_f1-score 5% removed: 0.7862 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 978 samples (54.33%) + Class 2: 683 samples (37.94%) + Class 3: 56 samples (3.11%) + Class 4: 46 samples (2.56%) + Class 5: 22 samples (1.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.7944 +covertype_test_precision 10% removed: 0.7923 +covertype_test_recall 10% removed: 0.7944 +covertype_test_f1-score 10% removed: 0.7922 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 872 samples (54.50%) + Class 2: 620 samples (38.75%) + Class 3: 53 samples (3.31%) + Class 4: 33 samples (2.06%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.8006 +covertype_test_precision 20% removed: 0.8006 +covertype_test_recall 20% removed: 0.8006 +covertype_test_f1-score 20% removed: 0.7992 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 549 samples (54.90%) + Class 2: 393 samples (39.30%) + Class 3: 46 samples (4.60%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.8050 +covertype_test_precision 50% removed: 0.8036 +covertype_test_recall 50% removed: 0.8050 +covertype_test_f1-score 50% removed: 0.8021 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp3l0znj_o/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp3l0znj_o/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp3l0znj_o/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp3l0znj_o/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 73.48it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.770770788192749 │ +│ covertype_val_f1-score │ 0.7578709125518799 │ +│ covertype_val_loss │ 0.5452631711959839 │ +│ covertype_val_precision │ 0.7570417523384094 │ +│ covertype_val_recall │ 0.770770788192749 │ +│ covertype_val_score │ 0.770770788192749 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 102.03it/s +Validation metrics: [{'covertype_val_loss': 0.5452631711959839, 'lr': 0.0, 'covertype_val_accuracy': 0.770770788192749, 'covertype_val_precision': 0.7570417523384094, 'covertype_val_recall': 0.770770788192749, 'covertype_val_f1-score': 0.7578709125518799, 'covertype_val_support': 999.0, 'covertype_val_score': 0.770770788192749}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 12 samples (0.60%) + Class 1: 1055 samples (52.75%) + Class 2: 692 samples (34.60%) + Class 3: 59 samples (2.95%) + Class 4: 152 samples (7.60%) + Class 5: 27 samples (1.35%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.784500002861023 │ +│ covertype_test_f1-score │ 0.7786620259284973 │ +│ covertype_test_loss │ 0.5599668025970459 │ +│ covertype_test_precision │ 0.7836382389068604 │ +│ covertype_test_recall │ 0.784500002861023 │ +│ covertype_test_score │ 0.784500002861023 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 73.57it/s +Test metrics: [{'covertype_test_loss': 0.5599668025970459, 'lr': 0.0, 'covertype_test_accuracy': 0.784500002861023, 'covertype_test_precision': 0.7836382389068604, 'covertype_test_recall': 0.784500002861023, 'covertype_test_f1-score': 0.7786620259284973, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.784500002861023}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 11 samples (0.58%) + Class 1: 1033 samples (54.37%) + Class 2: 686 samples (36.11%) + Class 3: 59 samples (3.11%) + Class 4: 85 samples (4.47%) + Class 5: 26 samples (1.37%) +============================================================ +covertype_test_accuracy 5% removed: 0.7900 +covertype_test_precision 5% removed: 0.7878 +covertype_test_recall 5% removed: 0.7900 +covertype_test_f1-score 5% removed: 0.7858 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 11 samples (0.61%) + Class 1: 997 samples (55.39%) + Class 2: 674 samples (37.44%) + Class 3: 57 samples (3.17%) + Class 4: 52 samples (2.89%) + Class 5: 9 samples (0.50%) +============================================================ +covertype_test_accuracy 10% removed: 0.7961 +covertype_test_precision 10% removed: 0.7918 +covertype_test_recall 10% removed: 0.7961 +covertype_test_f1-score 10% removed: 0.7912 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 10 samples (0.62%) + Class 1: 888 samples (55.50%) + Class 2: 610 samples (38.12%) + Class 3: 53 samples (3.31%) + Class 4: 35 samples (2.19%) + Class 5: 4 samples (0.25%) +============================================================ +covertype_test_accuracy 20% removed: 0.8012 +covertype_test_precision 20% removed: 0.8004 +covertype_test_recall 20% removed: 0.8012 +covertype_test_f1-score 20% removed: 0.7979 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 561 samples (56.10%) + Class 2: 382 samples (38.20%) + Class 3: 46 samples (4.60%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.8060 +covertype_test_precision 50% removed: 0.8052 +covertype_test_recall 50% removed: 0.8060 +covertype_test_f1-score 50% removed: 0.8023 +Wrote results for dcnv2 on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/dcnv2_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7857±0.0034 5%: 0.7914±0.0031 10%: 0.7978±0.0031 20%: 0.8031±0.0031 50%: 0.8086±0.0071 +covertype_test_precision 0%: 0.7856±0.0034 5%: 0.7905±0.0040 10%: 0.7956±0.0046 20%: 0.8027±0.0037 50%: 0.8081±0.0065 +covertype_test_recall 0%: 0.7857±0.0034 5%: 0.7914±0.0031 10%: 0.7978±0.0031 20%: 0.8031±0.0031 50%: 0.8086±0.0071 +covertype_test_f1-score 0%: 0.7830±0.0044 5%: 0.7892±0.0038 10%: 0.7950±0.0039 20%: 0.8013±0.0036 50%: 0.8058±0.0074 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'resnet'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpseszykro/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpseszykro/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpseszykro/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpseszykro/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 128.22it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7687687873840332 │ +│ covertype_val_f1-score │ 0.7666970491409302 │ +│ covertype_val_loss │ 0.5647444725036621 │ +│ covertype_val_precision │ 0.7655566930770874 │ +│ covertype_val_recall │ 0.7687687873840332 │ +│ covertype_val_score │ 0.7687687873840332 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 90.56it/s +Validation metrics: [{'covertype_val_loss': 0.5647444725036621, 'lr': 0.0, 'covertype_val_accuracy': 0.7687687873840332, 'covertype_val_precision': 0.7655566930770874, 'covertype_val_recall': 0.7687687873840332, 'covertype_val_f1-score': 0.7666970491409302, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7687687873840332}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 28 samples (1.40%) + Class 1: 1016 samples (50.80%) + Class 2: 708 samples (35.40%) + Class 3: 60 samples (3.00%) + Class 4: 123 samples (6.15%) + Class 5: 59 samples (2.95%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7864999771118164 │ +│ covertype_test_f1-score │ 0.7861152291297913 │ +│ covertype_test_loss │ 0.5423771739006042 │ +│ covertype_test_precision │ 0.7862517833709717 │ +│ covertype_test_recall │ 0.7864999771118164 │ +│ covertype_test_score │ 0.7864999771118164 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 49.52it/s +Test metrics: [{'covertype_test_loss': 0.5423771739006042, 'lr': 0.0, 'covertype_test_accuracy': 0.7864999771118164, 'covertype_test_precision': 0.7862517833709717, 'covertype_test_recall': 0.7864999771118164, 'covertype_test_f1-score': 0.7861152291297913, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7864999771118164}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 25 samples (1.32%) + Class 1: 999 samples (52.58%) + Class 2: 700 samples (36.84%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 51 samples (2.68%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7942 +covertype_test_precision 5% removed: 0.7938 +covertype_test_recall 5% removed: 0.7942 +covertype_test_f1-score 5% removed: 0.7938 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 964 samples (53.56%) + Class 2: 687 samples (38.17%) + Class 3: 59 samples (3.28%) + Class 4: 42 samples (2.33%) + Class 5: 22 samples (1.22%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.8000 +covertype_test_precision 10% removed: 0.7984 +covertype_test_recall 10% removed: 0.8000 +covertype_test_f1-score 10% removed: 0.7991 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 24 samples (1.50%) + Class 1: 855 samples (53.44%) + Class 2: 625 samples (39.06%) + Class 3: 57 samples (3.56%) + Class 4: 27 samples (1.69%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.8062 +covertype_test_precision 20% removed: 0.8056 +covertype_test_recall 20% removed: 0.8062 +covertype_test_f1-score 20% removed: 0.8059 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 12 samples (1.20%) + Class 1: 533 samples (53.30%) + Class 2: 399 samples (39.90%) + Class 3: 50 samples (5.00%) + Class 4: 4 samples (0.40%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7960 +covertype_test_precision 50% removed: 0.7953 +covertype_test_recall 50% removed: 0.7960 +covertype_test_f1-score 50% removed: 0.7952 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpseszykro/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpseszykro/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpseszykro/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpseszykro/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 101.33it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7627627849578857 │ +│ covertype_val_f1-score │ 0.7527952194213867 │ +│ covertype_val_loss │ 0.5948060750961304 │ +│ covertype_val_precision │ 0.7466145157814026 │ +│ covertype_val_recall │ 0.7627627849578857 │ +│ covertype_val_score │ 0.7627627849578857 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 284.55it/s +Validation metrics: [{'covertype_val_loss': 0.5948060750961304, 'lr': 0.0, 'covertype_val_accuracy': 0.7627627849578857, 'covertype_val_precision': 0.7466145157814026, 'covertype_val_recall': 0.7627627849578857, 'covertype_val_f1-score': 0.7527952194213867, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7627627849578857}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 990 samples (49.50%) + Class 2: 767 samples (38.35%) + Class 3: 46 samples (2.30%) + Class 4: 127 samples (6.35%) + Class 5: 31 samples (1.55%) + Class 6: 7 samples (0.35%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7730000019073486 │ +│ covertype_test_f1-score │ 0.7703278064727783 │ +│ covertype_test_loss │ 0.5678924322128296 │ +│ covertype_test_precision │ 0.7735941410064697 │ +│ covertype_test_recall │ 0.7730000019073486 │ +│ covertype_test_score │ 0.7730000019073486 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 58.76it/s +Test metrics: [{'covertype_test_loss': 0.5678924322128296, 'lr': 0.0, 'covertype_test_accuracy': 0.7730000019073486, 'covertype_test_precision': 0.7735941410064697, 'covertype_test_recall': 0.7730000019073486, 'covertype_test_f1-score': 0.7703278064727783, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7730000019073486}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 960 samples (50.53%) + Class 2: 761 samples (40.05%) + Class 3: 46 samples (2.42%) + Class 4: 76 samples (4.00%) + Class 5: 25 samples (1.32%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7789 +covertype_test_precision 5% removed: 0.7820 +covertype_test_recall 5% removed: 0.7789 +covertype_test_f1-score 5% removed: 0.7777 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 28 samples (1.56%) + Class 1: 920 samples (51.11%) + Class 2: 747 samples (41.50%) + Class 3: 45 samples (2.50%) + Class 4: 46 samples (2.56%) + Class 5: 13 samples (0.72%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7844 +covertype_test_precision 10% removed: 0.7865 +covertype_test_recall 10% removed: 0.7844 +covertype_test_f1-score 10% removed: 0.7835 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 21 samples (1.31%) + Class 1: 824 samples (51.50%) + Class 2: 676 samples (42.25%) + Class 3: 43 samples (2.69%) + Class 4: 28 samples (1.75%) + Class 5: 7 samples (0.44%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7950 +covertype_test_precision 20% removed: 0.7965 +covertype_test_recall 20% removed: 0.7950 +covertype_test_f1-score 20% removed: 0.7945 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 514 samples (51.40%) + Class 2: 435 samples (43.50%) + Class 3: 38 samples (3.80%) + Class 4: 5 samples (0.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7950 +covertype_test_precision 50% removed: 0.7957 +covertype_test_recall 50% removed: 0.7950 +covertype_test_f1-score 50% removed: 0.7938 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpseszykro/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpseszykro/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpseszykro/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpseszykro/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 47/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 58.87it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7737737894058228 │ +│ covertype_val_f1-score │ 0.7642657160758972 │ +│ covertype_val_loss │ 0.5896857380867004 │ +│ covertype_val_precision │ 0.7646192908287048 │ +│ covertype_val_recall │ 0.7737737894058228 │ +│ covertype_val_score │ 0.7737737894058228 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 208.37it/s +Validation metrics: [{'covertype_val_loss': 0.5896857380867004, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7737737894058228, 'covertype_val_precision': 0.7646192908287048, 'covertype_val_recall': 0.7737737894058228, 'covertype_val_f1-score': 0.7642657160758972, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7737737894058228}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 1049 samples (52.45%) + Class 2: 711 samples (35.55%) + Class 3: 42 samples (2.10%) + Class 4: 143 samples (7.15%) + Class 5: 35 samples (1.75%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7749999761581421 │ +│ covertype_test_f1-score │ 0.7709454298019409 │ +│ covertype_test_loss │ 0.5824047923088074 │ +│ covertype_test_precision │ 0.7753526568412781 │ +│ covertype_test_recall │ 0.7749999761581421 │ +│ covertype_test_score │ 0.7749999761581421 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 102.92it/s +Test metrics: [{'covertype_test_loss': 0.5824047923088074, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7749999761581421, 'covertype_test_precision': 0.7753526568412781, 'covertype_test_recall': 0.7749999761581421, 'covertype_test_f1-score': 0.7709454298019409, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7749999761581421}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 12 samples (0.63%) + Class 1: 1031 samples (54.26%) + Class 2: 704 samples (37.05%) + Class 3: 42 samples (2.21%) + Class 4: 81 samples (4.26%) + Class 5: 29 samples (1.53%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7805 +covertype_test_precision 5% removed: 0.7816 +covertype_test_recall 5% removed: 0.7805 +covertype_test_f1-score 5% removed: 0.7771 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 12 samples (0.67%) + Class 1: 995 samples (55.28%) + Class 2: 690 samples (38.33%) + Class 3: 41 samples (2.28%) + Class 4: 48 samples (2.67%) + Class 5: 13 samples (0.72%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7856 +covertype_test_precision 10% removed: 0.7854 +covertype_test_recall 10% removed: 0.7856 +covertype_test_f1-score 10% removed: 0.7819 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 878 samples (54.87%) + Class 2: 631 samples (39.44%) + Class 3: 39 samples (2.44%) + Class 4: 30 samples (1.88%) + Class 5: 9 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7906 +covertype_test_precision 20% removed: 0.7910 +covertype_test_recall 20% removed: 0.7906 +covertype_test_f1-score 20% removed: 0.7884 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 553 samples (55.30%) + Class 2: 400 samples (40.00%) + Class 3: 34 samples (3.40%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7830 +covertype_test_precision 50% removed: 0.7818 +covertype_test_recall 50% removed: 0.7830 +covertype_test_f1-score 50% removed: 0.7798 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpseszykro/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpseszykro/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpseszykro/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpseszykro/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 55.36it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7797797918319702 │ +│ covertype_val_f1-score │ 0.7777771353721619 │ +│ covertype_val_loss │ 0.5701540112495422 │ +│ covertype_val_precision │ 0.7768524289131165 │ +│ covertype_val_recall │ 0.7797797918319702 │ +│ covertype_val_score │ 0.7797797918319702 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 213.32it/s +Validation metrics: [{'covertype_val_loss': 0.5701540112495422, 'lr': 0.0, 'covertype_val_accuracy': 0.7797797918319702, 'covertype_val_precision': 0.7768524289131165, 'covertype_val_recall': 0.7797797918319702, 'covertype_val_f1-score': 0.7777771353721619, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7797797918319702}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 40 samples (2.00%) + Class 1: 984 samples (49.20%) + Class 2: 740 samples (37.00%) + Class 3: 63 samples (3.15%) + Class 4: 99 samples (4.95%) + Class 5: 71 samples (3.55%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.781000018119812 │ +│ covertype_test_f1-score │ 0.78184974193573 │ +│ covertype_test_loss │ 0.5434557199478149 │ +│ covertype_test_precision │ 0.7843605875968933 │ +│ covertype_test_recall │ 0.781000018119812 │ +│ covertype_test_score │ 0.781000018119812 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 169.16it/s +Test metrics: [{'covertype_test_loss': 0.5434557199478149, 'lr': 0.0, 'covertype_test_accuracy': 0.781000018119812, 'covertype_test_precision': 0.7843605875968933, 'covertype_test_recall': 0.781000018119812, 'covertype_test_f1-score': 0.78184974193573, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.781000018119812}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 38 samples (2.00%) + Class 1: 961 samples (50.58%) + Class 2: 734 samples (38.63%) + Class 3: 63 samples (3.32%) + Class 4: 44 samples (2.32%) + Class 5: 60 samples (3.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.7884 +covertype_test_precision 5% removed: 0.7921 +covertype_test_recall 5% removed: 0.7884 +covertype_test_f1-score 5% removed: 0.7889 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 35 samples (1.94%) + Class 1: 928 samples (51.56%) + Class 2: 721 samples (40.06%) + Class 3: 61 samples (3.39%) + Class 4: 28 samples (1.56%) + Class 5: 27 samples (1.50%) +============================================================ +covertype_test_accuracy 10% removed: 0.7967 +covertype_test_precision 10% removed: 0.7985 +covertype_test_recall 10% removed: 0.7967 +covertype_test_f1-score 10% removed: 0.7967 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 29 samples (1.81%) + Class 1: 827 samples (51.69%) + Class 2: 657 samples (41.06%) + Class 3: 58 samples (3.62%) + Class 4: 16 samples (1.00%) + Class 5: 13 samples (0.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.8056 +covertype_test_precision 20% removed: 0.8075 +covertype_test_recall 20% removed: 0.8056 +covertype_test_f1-score 20% removed: 0.8058 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 11 samples (1.10%) + Class 1: 518 samples (51.80%) + Class 2: 415 samples (41.50%) + Class 3: 50 samples (5.00%) + Class 4: 3 samples (0.30%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.8120 +covertype_test_precision 50% removed: 0.8120 +covertype_test_recall 50% removed: 0.8120 +covertype_test_f1-score 50% removed: 0.8116 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpseszykro/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpseszykro/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpseszykro/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpseszykro/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 105.44it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7497497200965881 │ +│ covertype_val_f1-score │ 0.7474523782730103 │ +│ covertype_val_loss │ 0.5889421701431274 │ +│ covertype_val_precision │ 0.7466676235198975 │ +│ covertype_val_recall │ 0.7497497200965881 │ +│ covertype_val_score │ 0.7497497200965881 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 76.15it/s +Validation metrics: [{'covertype_val_loss': 0.5889421701431274, 'lr': 0.0, 'covertype_val_accuracy': 0.7497497200965881, 'covertype_val_precision': 0.7466676235198975, 'covertype_val_recall': 0.7497497200965881, 'covertype_val_f1-score': 0.7474523782730103, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7497497200965881}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 38 samples (1.90%) + Class 1: 985 samples (49.25%) + Class 2: 720 samples (36.00%) + Class 3: 65 samples (3.25%) + Class 4: 127 samples (6.35%) + Class 5: 61 samples (3.05%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7730000019073486 │ +│ covertype_test_f1-score │ 0.7739129662513733 │ +│ covertype_test_loss │ 0.5587324500083923 │ +│ covertype_test_precision │ 0.7761594653129578 │ +│ covertype_test_recall │ 0.7730000019073486 │ +│ covertype_test_score │ 0.7730000019073486 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 76.66it/s +Test metrics: [{'covertype_test_loss': 0.5587324500083923, 'lr': 0.0, 'covertype_test_accuracy': 0.7730000019073486, 'covertype_test_precision': 0.7761594653129578, 'covertype_test_recall': 0.7730000019073486, 'covertype_test_f1-score': 0.7739129662513733, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7730000019073486}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 37 samples (1.95%) + Class 1: 968 samples (50.95%) + Class 2: 713 samples (37.53%) + Class 3: 65 samples (3.42%) + Class 4: 62 samples (3.26%) + Class 5: 54 samples (2.84%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7784 +covertype_test_precision 5% removed: 0.7826 +covertype_test_recall 5% removed: 0.7784 +covertype_test_f1-score 5% removed: 0.7797 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 35 samples (1.94%) + Class 1: 936 samples (52.00%) + Class 2: 700 samples (38.89%) + Class 3: 63 samples (3.50%) + Class 4: 38 samples (2.11%) + Class 5: 27 samples (1.50%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7839 +covertype_test_precision 10% removed: 0.7872 +covertype_test_recall 10% removed: 0.7839 +covertype_test_f1-score 10% removed: 0.7849 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 30 samples (1.88%) + Class 1: 839 samples (52.44%) + Class 2: 631 samples (39.44%) + Class 3: 60 samples (3.75%) + Class 4: 24 samples (1.50%) + Class 5: 16 samples (1.00%) +============================================================ +covertype_test_accuracy 20% removed: 0.7912 +covertype_test_precision 20% removed: 0.7933 +covertype_test_recall 20% removed: 0.7912 +covertype_test_f1-score 20% removed: 0.7921 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 11 samples (1.10%) + Class 1: 534 samples (53.40%) + Class 2: 395 samples (39.50%) + Class 3: 51 samples (5.10%) + Class 4: 6 samples (0.60%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7960 +covertype_test_precision 50% removed: 0.7958 +covertype_test_recall 50% removed: 0.7960 +covertype_test_f1-score 50% removed: 0.7953 +Wrote results for resnet on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/resnet_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7777±0.0073 5%: 0.7841±0.0086 10%: 0.7901±0.0095 20%: 0.7977±0.0095 50%: 0.7964±0.0128 +covertype_test_precision 0%: 0.7791±0.0071 5%: 0.7864±0.0075 10%: 0.7912±0.0082 20%: 0.7988±0.0092 50%: 0.7961±0.0133 +covertype_test_recall 0%: 0.7777±0.0073 5%: 0.7841±0.0086 10%: 0.7901±0.0095 20%: 0.7977±0.0095 50%: 0.7964±0.0128 +covertype_test_f1-score 0%: 0.7766±0.0087 5%: 0.7834±0.0093 10%: 0.7892±0.0100 20%: 0.7973±0.0100 50%: 0.7951±0.0140 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'autoint'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpld2hbdmt/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpld2hbdmt/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpld2hbdmt/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpld2hbdmt/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 60.58it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7477477192878723 │ +│ covertype_val_f1-score │ 0.7439824938774109 │ +│ covertype_val_loss │ 0.6109797954559326 │ +│ covertype_val_precision │ 0.7440333366394043 │ +│ covertype_val_recall │ 0.7477477192878723 │ +│ covertype_val_score │ 0.7477477192878723 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 125.21it/s +Validation metrics: [{'covertype_val_loss': 0.6109797954559326, 'lr': 0.0, 'covertype_val_accuracy': 0.7477477192878723, 'covertype_val_precision': 0.7440333366394043, 'covertype_val_recall': 0.7477477192878723, 'covertype_val_f1-score': 0.7439824938774109, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7477477192878723}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 20 samples (1.00%) + Class 1: 982 samples (49.10%) + Class 2: 745 samples (37.25%) + Class 3: 57 samples (2.85%) + Class 4: 127 samples (6.35%) + Class 5: 65 samples (3.25%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7475000023841858 │ +│ covertype_test_f1-score │ 0.7470961213111877 │ +│ covertype_test_loss │ 0.5939509272575378 │ +│ covertype_test_precision │ 0.7491077780723572 │ +│ covertype_test_recall │ 0.7475000023841858 │ +│ covertype_test_score │ 0.7475000023841858 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 78.69it/s +Test metrics: [{'covertype_test_loss': 0.5939509272575378, 'lr': 0.0, 'covertype_test_accuracy': 0.7475000023841858, 'covertype_test_precision': 0.7491077780723572, 'covertype_test_recall': 0.7475000023841858, 'covertype_test_f1-score': 0.7470961213111877, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7475000023841858}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 960 samples (50.53%) + Class 2: 740 samples (38.95%) + Class 3: 57 samples (3.00%) + Class 4: 66 samples (3.47%) + Class 5: 59 samples (3.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7511 +covertype_test_precision 5% removed: 0.7526 +covertype_test_recall 5% removed: 0.7511 +covertype_test_f1-score 5% removed: 0.7506 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 929 samples (51.61%) + Class 2: 725 samples (40.28%) + Class 3: 55 samples (3.06%) + Class 4: 42 samples (2.33%) + Class 5: 32 samples (1.78%) +============================================================ +covertype_test_accuracy 10% removed: 0.7578 +covertype_test_precision 10% removed: 0.7587 +covertype_test_recall 10% removed: 0.7578 +covertype_test_f1-score 10% removed: 0.7571 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (1.06%) + Class 1: 823 samples (51.44%) + Class 2: 661 samples (41.31%) + Class 3: 53 samples (3.31%) + Class 4: 30 samples (1.88%) + Class 5: 16 samples (1.00%) +============================================================ +covertype_test_accuracy 20% removed: 0.7625 +covertype_test_precision 20% removed: 0.7639 +covertype_test_recall 20% removed: 0.7625 +covertype_test_f1-score 20% removed: 0.7624 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 518 samples (51.80%) + Class 2: 420 samples (42.00%) + Class 3: 46 samples (4.60%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7710 +covertype_test_precision 50% removed: 0.7698 +covertype_test_recall 50% removed: 0.7710 +covertype_test_f1-score 50% removed: 0.7701 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpld2hbdmt/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpld2hbdmt/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpld2hbdmt/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpld2hbdmt/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 72.55it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7557557821273804 │ +│ covertype_val_f1-score │ 0.7540062665939331 │ +│ covertype_val_loss │ 0.6072161197662354 │ +│ covertype_val_precision │ 0.7563239336013794 │ +│ covertype_val_recall │ 0.7557557821273804 │ +│ covertype_val_score │ 0.7557557821273804 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.866357686405536e-07 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 196.18it/s +Validation metrics: [{'covertype_val_loss': 0.6072161197662354, 'lr': 9.866357686405536e-07, 'covertype_val_accuracy': 0.7557557821273804, 'covertype_val_precision': 0.7563239336013794, 'covertype_val_recall': 0.7557557821273804, 'covertype_val_f1-score': 0.7540062665939331, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7557557821273804}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 980 samples (49.00%) + Class 2: 746 samples (37.30%) + Class 3: 56 samples (2.80%) + Class 4: 134 samples (6.70%) + Class 5: 61 samples (3.05%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7429999709129333 │ +│ covertype_test_f1-score │ 0.7421572208404541 │ +│ covertype_test_loss │ 0.597342848777771 │ +│ covertype_test_precision │ 0.7443254590034485 │ +│ covertype_test_recall │ 0.7429999709129333 │ +│ covertype_test_score │ 0.7429999709129333 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.866358823273913e-07 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 71.15it/s +Test metrics: [{'covertype_test_loss': 0.597342848777771, 'lr': 9.866358823273913e-07, 'covertype_test_accuracy': 0.7429999709129333, 'covertype_test_precision': 0.7443254590034485, 'covertype_test_recall': 0.7429999709129333, 'covertype_test_f1-score': 0.7421572208404541, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7429999709129333}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 16 samples (0.84%) + Class 1: 964 samples (50.74%) + Class 2: 742 samples (39.05%) + Class 3: 56 samples (2.95%) + Class 4: 63 samples (3.32%) + Class 5: 58 samples (3.05%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7495 +covertype_test_precision 5% removed: 0.7521 +covertype_test_recall 5% removed: 0.7495 +covertype_test_f1-score 5% removed: 0.7489 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 929 samples (51.61%) + Class 2: 730 samples (40.56%) + Class 3: 54 samples (3.00%) + Class 4: 36 samples (2.00%) + Class 5: 34 samples (1.89%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7522 +covertype_test_precision 10% removed: 0.7554 +covertype_test_recall 10% removed: 0.7522 +covertype_test_f1-score 10% removed: 0.7518 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 831 samples (51.94%) + Class 2: 660 samples (41.25%) + Class 3: 52 samples (3.25%) + Class 4: 26 samples (1.62%) + Class 5: 17 samples (1.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7556 +covertype_test_precision 20% removed: 0.7562 +covertype_test_recall 20% removed: 0.7556 +covertype_test_f1-score 20% removed: 0.7548 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 528 samples (52.80%) + Class 2: 409 samples (40.90%) + Class 3: 46 samples (4.60%) + Class 4: 5 samples (0.50%) + Class 5: 4 samples (0.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.7620 +covertype_test_precision 50% removed: 0.7611 +covertype_test_recall 50% removed: 0.7620 +covertype_test_f1-score 50% removed: 0.7609 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpld2hbdmt/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpld2hbdmt/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpld2hbdmt/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpld2hbdmt/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 101.89it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7457457184791565 │ +│ covertype_val_f1-score │ 0.7445992827415466 │ +│ covertype_val_loss │ 0.6310383677482605 │ +│ covertype_val_precision │ 0.7478812336921692 │ +│ covertype_val_recall │ 0.7457457184791565 │ +│ covertype_val_score │ 0.7457457184791565 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.866357686405536e-07 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 108.12it/s +Validation metrics: [{'covertype_val_loss': 0.6310383677482605, 'lr': 9.866357686405536e-07, 'covertype_val_accuracy': 0.7457457184791565, 'covertype_val_precision': 0.7478812336921692, 'covertype_val_recall': 0.7457457184791565, 'covertype_val_f1-score': 0.7445992827415466, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7457457184791565}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 22 samples (1.10%) + Class 1: 1023 samples (51.15%) + Class 2: 714 samples (35.70%) + Class 3: 54 samples (2.70%) + Class 4: 126 samples (6.30%) + Class 5: 56 samples (2.80%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7634999752044678 │ +│ covertype_test_f1-score │ 0.7623487114906311 │ +│ covertype_test_loss │ 0.5879529714584351 │ +│ covertype_test_precision │ 0.7627580761909485 │ +│ covertype_test_recall │ 0.7634999752044678 │ +│ covertype_test_score │ 0.7634999752044678 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.866358823273913e-07 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 203.82it/s +Test metrics: [{'covertype_test_loss': 0.5879529714584351, 'lr': 9.866358823273913e-07, 'covertype_test_accuracy': 0.7634999752044678, 'covertype_test_precision': 0.7627580761909485, 'covertype_test_recall': 0.7634999752044678, 'covertype_test_f1-score': 0.7623487114906311, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7634999752044678}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 20 samples (1.05%) + Class 1: 1002 samples (52.74%) + Class 2: 708 samples (37.26%) + Class 3: 54 samples (2.84%) + Class 4: 66 samples (3.47%) + Class 5: 49 samples (2.58%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7679 +covertype_test_precision 5% removed: 0.7681 +covertype_test_recall 5% removed: 0.7679 +covertype_test_f1-score 5% removed: 0.7670 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 20 samples (1.11%) + Class 1: 968 samples (53.78%) + Class 2: 695 samples (38.61%) + Class 3: 52 samples (2.89%) + Class 4: 41 samples (2.28%) + Class 5: 23 samples (1.28%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7728 +covertype_test_precision 10% removed: 0.7724 +covertype_test_recall 10% removed: 0.7728 +covertype_test_f1-score 10% removed: 0.7716 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 18 samples (1.12%) + Class 1: 867 samples (54.19%) + Class 2: 627 samples (39.19%) + Class 3: 49 samples (3.06%) + Class 4: 24 samples (1.50%) + Class 5: 14 samples (0.88%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7806 +covertype_test_precision 20% removed: 0.7801 +covertype_test_recall 20% removed: 0.7806 +covertype_test_f1-score 20% removed: 0.7798 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 545 samples (54.50%) + Class 2: 398 samples (39.80%) + Class 3: 42 samples (4.20%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7820 +covertype_test_precision 50% removed: 0.7793 +covertype_test_recall 50% removed: 0.7820 +covertype_test_f1-score 50% removed: 0.7796 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpld2hbdmt/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpld2hbdmt/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpld2hbdmt/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpld2hbdmt/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 44/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 36.86it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7537537813186646 │ +│ covertype_val_f1-score │ 0.7498599290847778 │ +│ covertype_val_loss │ 0.6313763856887817 │ +│ covertype_val_precision │ 0.748685359954834 │ +│ covertype_val_recall │ 0.7537537813186646 │ +│ covertype_val_score │ 0.7537537813186646 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 2.4471739379805513e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 264.29it/s +Validation metrics: [{'covertype_val_loss': 0.6313763856887817, 'lr': 2.4471739379805513e-05, 'covertype_val_accuracy': 0.7537537813186646, 'covertype_val_precision': 0.748685359954834, 'covertype_val_recall': 0.7537537813186646, 'covertype_val_f1-score': 0.7498599290847778, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7537537813186646}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 968 samples (48.40%) + Class 2: 767 samples (38.35%) + Class 3: 54 samples (2.70%) + Class 4: 125 samples (6.25%) + Class 5: 68 samples (3.40%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7584999799728394 │ +│ covertype_test_f1-score │ 0.7576595544815063 │ +│ covertype_test_loss │ 0.5978365540504456 │ +│ covertype_test_precision │ 0.7615603804588318 │ +│ covertype_test_recall │ 0.7584999799728394 │ +│ covertype_test_score │ 0.7584999799728394 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 2.4471744836773723e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 142.65it/s +Test metrics: [{'covertype_test_loss': 0.5978365540504456, 'lr': 2.4471744836773723e-05, 'covertype_test_accuracy': 0.7584999799728394, 'covertype_test_precision': 0.7615603804588318, 'covertype_test_recall': 0.7584999799728394, 'covertype_test_f1-score': 0.7576595544815063, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7584999799728394}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 14 samples (0.74%) + Class 1: 949 samples (49.95%) + Class 2: 761 samples (40.05%) + Class 3: 54 samples (2.84%) + Class 4: 63 samples (3.32%) + Class 5: 59 samples (3.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7637 +covertype_test_precision 5% removed: 0.7660 +covertype_test_recall 5% removed: 0.7637 +covertype_test_f1-score 5% removed: 0.7627 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 14 samples (0.78%) + Class 1: 918 samples (51.00%) + Class 2: 747 samples (41.50%) + Class 3: 52 samples (2.89%) + Class 4: 40 samples (2.22%) + Class 5: 29 samples (1.61%) +============================================================ +covertype_test_accuracy 10% removed: 0.7706 +covertype_test_precision 10% removed: 0.7715 +covertype_test_recall 10% removed: 0.7706 +covertype_test_f1-score 10% removed: 0.7690 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 815 samples (50.94%) + Class 2: 681 samples (42.56%) + Class 3: 49 samples (3.06%) + Class 4: 28 samples (1.75%) + Class 5: 15 samples (0.94%) +============================================================ +covertype_test_accuracy 20% removed: 0.7788 +covertype_test_precision 20% removed: 0.7811 +covertype_test_recall 20% removed: 0.7788 +covertype_test_f1-score 20% removed: 0.7780 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 512 samples (51.20%) + Class 2: 431 samples (43.10%) + Class 3: 43 samples (4.30%) + Class 4: 4 samples (0.40%) + Class 5: 4 samples (0.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.7800 +covertype_test_precision 50% removed: 0.7812 +covertype_test_recall 50% removed: 0.7800 +covertype_test_f1-score 50% removed: 0.7793 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpld2hbdmt/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpld2hbdmt/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpld2hbdmt/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpld2hbdmt/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 47/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 34.49it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7627627849578857 │ +│ covertype_val_f1-score │ 0.7572336792945862 │ +│ covertype_val_loss │ 0.5842323899269104 │ +│ covertype_val_precision │ 0.7560669183731079 │ +│ covertype_val_recall │ 0.7627627849578857 │ +│ covertype_val_score │ 0.7627627849578857 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 65.44it/s +Validation metrics: [{'covertype_val_loss': 0.5842323899269104, 'lr': 3.9426490729965735e-06, 'covertype_val_accuracy': 0.7627627849578857, 'covertype_val_precision': 0.7560669183731079, 'covertype_val_recall': 0.7627627849578857, 'covertype_val_f1-score': 0.7572336792945862, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7627627849578857}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 21 samples (1.05%) + Class 1: 1003 samples (50.15%) + Class 2: 721 samples (36.05%) + Class 3: 57 samples (2.85%) + Class 4: 135 samples (6.75%) + Class 5: 58 samples (2.90%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7599999904632568 │ +│ covertype_test_f1-score │ 0.7589232921600342 │ +│ covertype_test_loss │ 0.578658401966095 │ +│ covertype_test_precision │ 0.759793221950531 │ +│ covertype_test_recall │ 0.7599999904632568 │ +│ covertype_test_score │ 0.7599999904632568 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 54.39it/s +Test metrics: [{'covertype_test_loss': 0.578658401966095, 'lr': 3.9426490729965735e-06, 'covertype_test_accuracy': 0.7599999904632568, 'covertype_test_precision': 0.759793221950531, 'covertype_test_recall': 0.7599999904632568, 'covertype_test_f1-score': 0.7589232921600342, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7599999904632568}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 19 samples (1.00%) + Class 1: 986 samples (51.89%) + Class 2: 715 samples (37.63%) + Class 3: 57 samples (3.00%) + Class 4: 68 samples (3.58%) + Class 5: 54 samples (2.84%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7668 +covertype_test_precision 5% removed: 0.7674 +covertype_test_recall 5% removed: 0.7668 +covertype_test_f1-score 5% removed: 0.7660 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 19 samples (1.06%) + Class 1: 955 samples (53.06%) + Class 2: 702 samples (39.00%) + Class 3: 55 samples (3.06%) + Class 4: 38 samples (2.11%) + Class 5: 30 samples (1.67%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7694 +covertype_test_precision 10% removed: 0.7701 +covertype_test_recall 10% removed: 0.7694 +covertype_test_f1-score 10% removed: 0.7686 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (1.06%) + Class 1: 850 samples (53.12%) + Class 2: 638 samples (39.88%) + Class 3: 52 samples (3.25%) + Class 4: 26 samples (1.62%) + Class 5: 16 samples (1.00%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7738 +covertype_test_precision 20% removed: 0.7734 +covertype_test_recall 20% removed: 0.7738 +covertype_test_f1-score 20% removed: 0.7731 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 540 samples (54.00%) + Class 2: 401 samples (40.10%) + Class 3: 46 samples (4.60%) + Class 4: 4 samples (0.40%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7810 +covertype_test_precision 50% removed: 0.7793 +covertype_test_recall 50% removed: 0.7810 +covertype_test_f1-score 50% removed: 0.7790 +Wrote results for autoint on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/autoint_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7545±0.0109 5%: 0.7598±0.0110 10%: 0.7646±0.0112 20%: 0.7702±0.0134 50%: 0.7752±0.0107 +covertype_test_precision 0%: 0.7555±0.0103 5%: 0.7612±0.0102 10%: 0.7656±0.0099 20%: 0.7709±0.0133 50%: 0.7742±0.0106 +covertype_test_recall 0%: 0.7545±0.0109 5%: 0.7598±0.0110 10%: 0.7646±0.0112 20%: 0.7702±0.0134 50%: 0.7752±0.0107 +covertype_test_f1-score 0%: 0.7536±0.0107 5%: 0.7590±0.0107 10%: 0.7636±0.0107 20%: 0.7696±0.0133 50%: 0.7738±0.0102 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'fttransformer'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmplsxtju33/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmplsxtju33/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmplsxtju33/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmplsxtju33/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 32.06it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7467467188835144 │ +│ covertype_val_f1-score │ 0.7399360537528992 │ +│ covertype_val_loss │ 0.5942534804344177 │ +│ covertype_val_precision │ 0.7424960136413574 │ +│ covertype_val_recall │ 0.7467467188835144 │ +│ covertype_val_score │ 0.7467467188835144 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 43.26it/s +Validation metrics: [{'covertype_val_loss': 0.5942534804344177, 'lr': 0.0, 'covertype_val_accuracy': 0.7467467188835144, 'covertype_val_precision': 0.7424960136413574, 'covertype_val_recall': 0.7467467188835144, 'covertype_val_f1-score': 0.7399360537528992, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7467467188835144}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 9 samples (0.45%) + Class 1: 1033 samples (51.65%) + Class 2: 721 samples (36.05%) + Class 3: 51 samples (2.55%) + Class 4: 145 samples (7.25%) + Class 5: 37 samples (1.85%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7444999814033508 │ +│ covertype_test_f1-score │ 0.7400442361831665 │ +│ covertype_test_loss │ 0.5837439298629761 │ +│ covertype_test_precision │ 0.7445575594902039 │ +│ covertype_test_recall │ 0.7444999814033508 │ +│ covertype_test_score │ 0.7444999814033508 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 40.60it/s +Test metrics: [{'covertype_test_loss': 0.5837439298629761, 'lr': 0.0, 'covertype_test_accuracy': 0.7444999814033508, 'covertype_test_precision': 0.7445575594902039, 'covertype_test_recall': 0.7444999814033508, 'covertype_test_f1-score': 0.7400442361831665, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7444999814033508}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 9 samples (0.47%) + Class 1: 1015 samples (53.42%) + Class 2: 716 samples (37.68%) + Class 3: 51 samples (2.68%) + Class 4: 72 samples (3.79%) + Class 5: 36 samples (1.89%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7521 +covertype_test_precision 5% removed: 0.7518 +covertype_test_recall 5% removed: 0.7521 +covertype_test_f1-score 5% removed: 0.7488 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 9 samples (0.50%) + Class 1: 981 samples (54.50%) + Class 2: 703 samples (39.06%) + Class 3: 49 samples (2.72%) + Class 4: 43 samples (2.39%) + Class 5: 14 samples (0.78%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7578 +covertype_test_precision 10% removed: 0.7568 +covertype_test_recall 10% removed: 0.7578 +covertype_test_f1-score 10% removed: 0.7540 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 864 samples (54.00%) + Class 2: 642 samples (40.12%) + Class 3: 47 samples (2.94%) + Class 4: 30 samples (1.88%) + Class 5: 7 samples (0.44%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7644 +covertype_test_precision 20% removed: 0.7638 +covertype_test_recall 20% removed: 0.7644 +covertype_test_f1-score 20% removed: 0.7618 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 548 samples (54.80%) + Class 2: 399 samples (39.90%) + Class 3: 43 samples (4.30%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7750 +covertype_test_precision 50% removed: 0.7750 +covertype_test_recall 50% removed: 0.7750 +covertype_test_f1-score 50% removed: 0.7714 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmplsxtju33/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmplsxtju33/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmplsxtju33/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmplsxtju33/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:02 • 0:00:00 25.19it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7587587833404541 │ +│ covertype_val_f1-score │ 0.7542160153388977 │ +│ covertype_val_loss │ 0.5893120765686035 │ +│ covertype_val_precision │ 0.7560912370681763 │ +│ covertype_val_recall │ 0.7587587833404541 │ +│ covertype_val_score │ 0.7587587833404541 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 90.88it/s +Validation metrics: [{'covertype_val_loss': 0.5893120765686035, 'lr': 0.0, 'covertype_val_accuracy': 0.7587587833404541, 'covertype_val_precision': 0.7560912370681763, 'covertype_val_recall': 0.7587587833404541, 'covertype_val_f1-score': 0.7542160153388977, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7587587833404541}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 8 samples (0.40%) + Class 1: 968 samples (48.40%) + Class 2: 773 samples (38.65%) + Class 3: 61 samples (3.05%) + Class 4: 143 samples (7.15%) + Class 5: 47 samples (2.35%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7555000185966492 │ +│ covertype_test_f1-score │ 0.7510920166969299 │ +│ covertype_test_loss │ 0.5691357254981995 │ +│ covertype_test_precision │ 0.7556179165840149 │ +│ covertype_test_recall │ 0.7555000185966492 │ +│ covertype_test_score │ 0.7555000185966492 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 76.61it/s +Test metrics: [{'covertype_test_loss': 0.5691357254981995, 'lr': 0.0, 'covertype_test_accuracy': 0.7555000185966492, 'covertype_test_precision': 0.7556179165840149, 'covertype_test_recall': 0.7555000185966492, 'covertype_test_f1-score': 0.7510920166969299, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7555000185966492}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 7 samples (0.37%) + Class 1: 944 samples (49.68%) + Class 2: 768 samples (40.42%) + Class 3: 61 samples (3.21%) + Class 4: 74 samples (3.89%) + Class 5: 46 samples (2.42%) +============================================================ +covertype_test_accuracy 5% removed: 0.7611 +covertype_test_precision 5% removed: 0.7635 +covertype_test_recall 5% removed: 0.7611 +covertype_test_f1-score 5% removed: 0.7584 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 7 samples (0.39%) + Class 1: 912 samples (50.67%) + Class 2: 755 samples (41.94%) + Class 3: 59 samples (3.28%) + Class 4: 48 samples (2.67%) + Class 5: 19 samples (1.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7667 +covertype_test_precision 10% removed: 0.7674 +covertype_test_recall 10% removed: 0.7667 +covertype_test_f1-score 10% removed: 0.7631 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 809 samples (50.56%) + Class 2: 687 samples (42.94%) + Class 3: 56 samples (3.50%) + Class 4: 33 samples (2.06%) + Class 5: 8 samples (0.50%) +============================================================ +covertype_test_accuracy 20% removed: 0.7731 +covertype_test_precision 20% removed: 0.7749 +covertype_test_recall 20% removed: 0.7731 +covertype_test_f1-score 20% removed: 0.7705 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 504 samples (50.40%) + Class 2: 435 samples (43.50%) + Class 3: 49 samples (4.90%) + Class 4: 6 samples (0.60%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7800 +covertype_test_precision 50% removed: 0.7800 +covertype_test_recall 50% removed: 0.7800 +covertype_test_f1-score 50% removed: 0.7781 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmplsxtju33/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmplsxtju33/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmplsxtju33/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmplsxtju33/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 59.21it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7507507801055908 │ +│ covertype_val_f1-score │ 0.744871973991394 │ +│ covertype_val_loss │ 0.594679594039917 │ +│ covertype_val_precision │ 0.7505197525024414 │ +│ covertype_val_recall │ 0.7507507801055908 │ +│ covertype_val_score │ 0.7507507801055908 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 138.64it/s +Validation metrics: [{'covertype_val_loss': 0.594679594039917, 'lr': 0.0, 'covertype_val_accuracy': 0.7507507801055908, 'covertype_val_precision': 0.7505197525024414, 'covertype_val_recall': 0.7507507801055908, 'covertype_val_f1-score': 0.744871973991394, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7507507801055908}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 10 samples (0.50%) + Class 1: 1003 samples (50.15%) + Class 2: 742 samples (37.10%) + Class 3: 55 samples (2.75%) + Class 4: 144 samples (7.20%) + Class 5: 43 samples (2.15%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7544999718666077 │ +│ covertype_test_f1-score │ 0.7506380677223206 │ +│ covertype_test_loss │ 0.5649179816246033 │ +│ covertype_test_precision │ 0.7536816000938416 │ +│ covertype_test_recall │ 0.7544999718666077 │ +│ covertype_test_score │ 0.7544999718666077 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 202.71it/s +Test metrics: [{'covertype_test_loss': 0.5649179816246033, 'lr': 0.0, 'covertype_test_accuracy': 0.7544999718666077, 'covertype_test_precision': 0.7536816000938416, 'covertype_test_recall': 0.7544999718666077, 'covertype_test_f1-score': 0.7506380677223206, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7544999718666077}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 10 samples (0.53%) + Class 1: 984 samples (51.79%) + Class 2: 737 samples (38.79%) + Class 3: 55 samples (2.89%) + Class 4: 73 samples (3.84%) + Class 5: 41 samples (2.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.7616 +covertype_test_precision 5% removed: 0.7603 +covertype_test_recall 5% removed: 0.7616 +covertype_test_f1-score 5% removed: 0.7588 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 10 samples (0.56%) + Class 1: 952 samples (52.89%) + Class 2: 722 samples (40.11%) + Class 3: 54 samples (3.00%) + Class 4: 43 samples (2.39%) + Class 5: 19 samples (1.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7678 +covertype_test_precision 10% removed: 0.7651 +covertype_test_recall 10% removed: 0.7678 +covertype_test_f1-score 10% removed: 0.7644 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 844 samples (52.75%) + Class 2: 654 samples (40.88%) + Class 3: 52 samples (3.25%) + Class 4: 32 samples (2.00%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7738 +covertype_test_precision 20% removed: 0.7733 +covertype_test_recall 20% removed: 0.7738 +covertype_test_f1-score 20% removed: 0.7715 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 526 samples (52.60%) + Class 2: 416 samples (41.60%) + Class 3: 45 samples (4.50%) + Class 4: 6 samples (0.60%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7780 +covertype_test_precision 50% removed: 0.7782 +covertype_test_recall 50% removed: 0.7780 +covertype_test_f1-score 50% removed: 0.7762 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmplsxtju33/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmplsxtju33/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmplsxtju33/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmplsxtju33/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 67.36it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7557557821273804 │ +│ covertype_val_f1-score │ 0.7502015829086304 │ +│ covertype_val_loss │ 0.5778625011444092 │ +│ covertype_val_precision │ 0.7527441382408142 │ +│ covertype_val_recall │ 0.7557557821273804 │ +│ covertype_val_score │ 0.7557557821273804 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 216.71it/s +Validation metrics: [{'covertype_val_loss': 0.5778625011444092, 'lr': 0.0, 'covertype_val_accuracy': 0.7557557821273804, 'covertype_val_precision': 0.7527441382408142, 'covertype_val_recall': 0.7557557821273804, 'covertype_val_f1-score': 0.7502015829086304, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7557557821273804}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 9 samples (0.45%) + Class 1: 976 samples (48.80%) + Class 2: 762 samples (38.10%) + Class 3: 54 samples (2.70%) + Class 4: 154 samples (7.70%) + Class 5: 45 samples (2.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7465000152587891 │ +│ covertype_test_f1-score │ 0.7417492270469666 │ +│ covertype_test_loss │ 0.5750553011894226 │ +│ covertype_test_precision │ 0.7456411719322205 │ +│ covertype_test_recall │ 0.7465000152587891 │ +│ covertype_test_score │ 0.7465000152587891 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 226.67it/s +Test metrics: [{'covertype_test_loss': 0.5750553011894226, 'lr': 0.0, 'covertype_test_accuracy': 0.7465000152587891, 'covertype_test_precision': 0.7456411719322205, 'covertype_test_recall': 0.7465000152587891, 'covertype_test_f1-score': 0.7417492270469666, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7465000152587891}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 9 samples (0.47%) + Class 1: 956 samples (50.32%) + Class 2: 758 samples (39.89%) + Class 3: 54 samples (2.84%) + Class 4: 80 samples (4.21%) + Class 5: 43 samples (2.26%) +============================================================ +covertype_test_accuracy 5% removed: 0.7547 +covertype_test_precision 5% removed: 0.7564 +covertype_test_recall 5% removed: 0.7547 +covertype_test_f1-score 5% removed: 0.7523 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 9 samples (0.50%) + Class 1: 925 samples (51.39%) + Class 2: 744 samples (41.33%) + Class 3: 52 samples (2.89%) + Class 4: 47 samples (2.61%) + Class 5: 23 samples (1.28%) +============================================================ +covertype_test_accuracy 10% removed: 0.7617 +covertype_test_precision 10% removed: 0.7624 +covertype_test_recall 10% removed: 0.7617 +covertype_test_f1-score 10% removed: 0.7590 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 822 samples (51.38%) + Class 2: 680 samples (42.50%) + Class 3: 49 samples (3.06%) + Class 4: 32 samples (2.00%) + Class 5: 8 samples (0.50%) +============================================================ +covertype_test_accuracy 20% removed: 0.7681 +covertype_test_precision 20% removed: 0.7689 +covertype_test_recall 20% removed: 0.7681 +covertype_test_f1-score 20% removed: 0.7659 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 522 samples (52.20%) + Class 2: 423 samples (42.30%) + Class 3: 43 samples (4.30%) + Class 4: 6 samples (0.60%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7760 +covertype_test_precision 50% removed: 0.7756 +covertype_test_recall 50% removed: 0.7760 +covertype_test_f1-score 50% removed: 0.7739 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmplsxtju33/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmplsxtju33/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmplsxtju33/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmplsxtju33/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 61.88it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7567567825317383 │ +│ covertype_val_f1-score │ 0.7526459693908691 │ +│ covertype_val_loss │ 0.5854717493057251 │ +│ covertype_val_precision │ 0.7552387714385986 │ +│ covertype_val_recall │ 0.7567567825317383 │ +│ covertype_val_score │ 0.7567567825317383 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 287.91it/s +Validation metrics: [{'covertype_val_loss': 0.5854717493057251, 'lr': 0.0, 'covertype_val_accuracy': 0.7567567825317383, 'covertype_val_precision': 0.7552387714385986, 'covertype_val_recall': 0.7567567825317383, 'covertype_val_f1-score': 0.7526459693908691, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7567567825317383}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 11 samples (0.55%) + Class 1: 1034 samples (51.70%) + Class 2: 710 samples (35.50%) + Class 3: 56 samples (2.80%) + Class 4: 143 samples (7.15%) + Class 5: 44 samples (2.20%) + Class 6: 2 samples (0.10%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7549999952316284 │ +│ covertype_test_f1-score │ 0.7510440945625305 │ +│ covertype_test_loss │ 0.5684918165206909 │ +│ covertype_test_precision │ 0.7542546391487122 │ +│ covertype_test_recall │ 0.7549999952316284 │ +│ covertype_test_score │ 0.7549999952316284 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 255.49it/s +Test metrics: [{'covertype_test_loss': 0.5684918165206909, 'lr': 0.0, 'covertype_test_accuracy': 0.7549999952316284, 'covertype_test_precision': 0.7542546391487122, 'covertype_test_recall': 0.7549999952316284, 'covertype_test_f1-score': 0.7510440945625305, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7549999952316284}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 996 samples (52.42%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 11 samples (0.58%) + Class 1: 1016 samples (53.47%) + Class 2: 705 samples (37.11%) + Class 3: 56 samples (2.95%) + Class 4: 69 samples (3.63%) + Class 5: 42 samples (2.21%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7616 +covertype_test_precision 5% removed: 0.7600 +covertype_test_recall 5% removed: 0.7616 +covertype_test_f1-score 5% removed: 0.7588 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 11 samples (0.61%) + Class 1: 983 samples (54.61%) + Class 2: 692 samples (38.44%) + Class 3: 54 samples (3.00%) + Class 4: 42 samples (2.33%) + Class 5: 17 samples (0.94%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7694 +covertype_test_precision 10% removed: 0.7668 +covertype_test_recall 10% removed: 0.7694 +covertype_test_f1-score 10% removed: 0.7660 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 848 samples (53.00%) + Class 2: 632 samples (39.50%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 873 samples (54.56%) + Class 2: 627 samples (39.19%) + Class 3: 51 samples (3.19%) + Class 4: 28 samples (1.75%) + Class 5: 9 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7756 +covertype_test_precision 20% removed: 0.7733 +covertype_test_recall 20% removed: 0.7756 +covertype_test_f1-score 20% removed: 0.7732 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 512 samples (51.20%) + Class 2: 419 samples (41.90%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 544 samples (54.40%) + Class 2: 398 samples (39.80%) + Class 3: 45 samples (4.50%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7800 +covertype_test_precision 50% removed: 0.7766 +covertype_test_recall 50% removed: 0.7800 +covertype_test_f1-score 50% removed: 0.7770 +Wrote results for fttransformer on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/fttransformer_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7512±0.0065 5%: 0.7582±0.0056 10%: 0.7647±0.0060 20%: 0.7710±0.0057 50%: 0.7778±0.0028 +covertype_test_precision 0%: 0.7508±0.0065 5%: 0.7584±0.0055 10%: 0.7637±0.0054 20%: 0.7708±0.0056 50%: 0.7771±0.0025 +covertype_test_recall 0%: 0.7512±0.0065 5%: 0.7582±0.0056 10%: 0.7647±0.0060 20%: 0.7710±0.0057 50%: 0.7778±0.0028 +covertype_test_f1-score 0%: 0.7469±0.0069 5%: 0.7554±0.0057 10%: 0.7613±0.0060 20%: 0.7686±0.0058 50%: 0.7753±0.0033 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'xgboost'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=xgboost --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy --use_split_assignments=True --exp_train_total_epochs=1 --split_config_file=/tmp/tmp73jatbmz/split_data/split_config.json --sigma_aggregation=mean --n_estimators=100 --max_depth=3 --learning_rate=0.1 --subsample=1.0 --colsample_bytree=1.0 --reg_alpha=0.0 --reg_lambda=1.0 --n_jobs=-1 --random_state=42 --encoder_type=linear_flatten --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp73jatbmz/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 64 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ -1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.0001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ xgboost │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp73jatbmz/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp73jatbmz/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 1e-05 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: xgboost + +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +XGBoostLightning [1, 3456] [1, 3456] -- -- -- +===================================================================================================================================================================== +Total params: 0 +Trainable params: 0 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 0 +===================================================================================================================================================================== +Input size (MB): 0.01 +Forward/backward pass size (MB): 0.00 +Params size (MB): 0.00 +Estimated Total Size (MB): 0.01 +===================================================================================================================================================================== +GPU available: True (cuda), used: False +TPU available: False, using: 0 TPU cores +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/setup.py:175: GPU available but not used. You can set it by doing `Trainer(accelerator='gpu')`. +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1)` was configured so 1 batch per epoch will be used. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/core/optimizer.py:183: `LightningModule.configure_optimizers` returned `None`, this fit will run with no optimizer +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Identity │ 0 │ train │ 0 │ +│ 2 │ encoder │ Identity │ 0 │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 0 +Non-trainable params: 0 +Total params: 0 +Total estimated model params size (MB): 0.000 +Modules in train mode: 3 +Modules in eval mode: 0 +Total FLOPs: 0 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue4-gpu3-kl3e-7.exit_code b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue4-gpu3-kl3e-7.exit_code new file mode 100644 index 0000000000000000000000000000000000000000..0cfbf08886fca9a91cb753ec8734c84fcbe52c9f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue4-gpu3-kl3e-7.exit_code @@ -0,0 +1 @@ +2 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue4-gpu3-kl3e-7.log b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue4-gpu3-kl3e-7.log new file mode 100644 index 0000000000000000000000000000000000000000..f9057ac99b43a388949604582d871b61ed0bc473 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue4-gpu3-kl3e-7.log @@ -0,0 +1,17191 @@ +[2026-09-17T16:46:30+00:00] tag=queue4-gpu3-kl3e-7 gpu=3 dataset=covertype predictive_kl_end=0.0000003 full=0.001875 sx=0.00075 +{ + "dataset": "covertype", + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "3e-07", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} +Not SLURM job. +╒══════════════════════════════════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ mock │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ activation_checkpointing │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ deterministic_mode │ warn │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pre_evaluation │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 512 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 500 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ improvement │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_val_cache_cadence │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ init_type │ trunc_normal │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_start_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_lr │ 0.0005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 12 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_ipe_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_gradient_clipping │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_type_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_index_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dropout_prob │ 0.0015 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_hidden │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_feedforward │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_heads │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_layers │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_act_func │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_cadence │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_model │ linear_probe │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ n_cls_tokens │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_type │ transformer │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_layers │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_embed_dim │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_heads │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_p_dropout │ 0.002 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_activation │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_dim_feedforward │ 256 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_allow_overlap │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_ctx_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_ctx_share │ 0.35 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_trgt_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_trgt_share │ 0.6 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_preds │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_encs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mu_init_std │ 0.03 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_std │ 0.005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_bias │ -4.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_x_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_y_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_evaluation_epochs │ 50 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_probe_patience │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_representation_type │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_encoder_type │ target_posterior │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_target_posterior │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_auxiliary_encoder │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_end_weight │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_end_weight │ 3e-07 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_annealing_epochs │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_x_weight │ 0.001 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_y_weight │ 0.5 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ latent_architecture │ stochastic │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ jepa_objective │ w_jepa_joint │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_full_num_projections │ 2048 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_marginal_num_projections │ 1024 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_p │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_include_marginals │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_x_weight │ 0.00075 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_z_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_y_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_end_weight │ 0.001875 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ safe_exit │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_selection │ filtered_20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sigma_aggregation │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ subset_size │ -1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ is_batchlearning │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ iteration │ 0 │ +╘══════════════════════════════════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════╛ + +CUDA Device Information: +CUDA_VISIBLE_DEVICES: 3 +Number of CUDA devices: 1 +Current CUDA device: 0 +CUDA device name: NVIDIA A100-SXM4-80GB + +Using device: cuda:0 +Device name: NVIDIA A100-SXM4-80GB +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +VariationalTJEPA parameters: ++-------------------------+---------+ +| Parameter | Value | ++=========================+=========+ +| hidden_dim | 64 | ++-------------------------+---------+ +| num_layers | 8 | ++-------------------------+---------+ +| num_heads | 8 | ++-------------------------+---------+ +| p_dropout | 0.0015 | ++-------------------------+---------+ +| layer_norm_eps | 1e-05 | ++-------------------------+---------+ +| feature_type_embedding | True | ++-------------------------+---------+ +| feature_index_embedding | True | ++-------------------------+---------+ +| dim_feedforward | 64 | ++-------------------------+---------+ +| use_reg_token | True | ++-------------------------+---------+ +| gradient_clipping | 1.0 | ++-------------------------+---------+ +| activation | gelu | ++-------------------------+---------+ +| num_features | 54 | ++-------------------------+---------+ +| n_cls_tokens | 1 | ++-------------------------+---------+ +MaskCollator params: +----------------- ----- +Allow overlap False +Min context share 0.15 +Max context share 0.35 +Min target share 0.15 +Max target share 0.6 +Min context 8 +Max context 18 +Min target 8 +Max target 32 +Num preds 4 +Num encs 1 +Num features 54 +Cardinalities [] +Base mask seed 0 +----------------- ----- +KL-x annealing: start=0.0 for 20 steps, then anneal to 1e-06 over 1200 steps. +KL-z annealing: start=0.0 for 20 steps, then anneal to 1e-05 over 1200 steps. +KL-y annealing: start=0.0 for 20 steps, then anneal to 3e-07 over 400 steps. +W-JEPA marginal-scale annealing (s_x): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (z): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (s_y): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +Configuration saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/vtjepa_config.yaml +All results will be saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712 +[VTJEPA] Running downstream probe before training begins +Using full dataset for embedding generation: covertype +Generating embedding using: JEPAEmbeddingEncoder on full dataset + 0%| | 0/20 [00:00= 15) +[VTJEPA] Early stopping triggered at epoch 48 + Best downstream validation score: 0.755000 at epoch 17 + No improvement for 15 probe evaluations +Restored best downstream-selected checkpoint from epoch 17. +Training completed. +[2026-09-17T17:10:47+00:00] tag=queue4-gpu3-kl3e-7 dataset=covertype starting downstream models=mlp,dcnv2,resnet,autoint,fttransformer,xgboost +[Config] Loaded sigma_aggregation=mean from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/vtjepa_config.yaml +[Config] Loaded training data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/vtjepa_config.yaml +Split statistics: + val: 999 samples + test: 2000 samples + train: 7001 samples +Running downstream for dataset 'covertype', model 'mlp'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1nngheje/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp1nngheje/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1nngheje/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1nngheje/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 33/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 200.12it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7247247099876404 │ +│ covertype_val_f1-score │ 0.7161605954170227 │ +│ covertype_val_loss │ 0.6566958427429199 │ +│ covertype_val_precision │ 0.7202741503715515 │ +│ covertype_val_recall │ 0.7247247099876404 │ +│ covertype_val_score │ 0.7247247099876404 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 535.49it/s +Validation metrics: [{'covertype_val_loss': 0.6566958427429199, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7247247099876404, 'covertype_val_precision': 0.7202741503715515, 'covertype_val_recall': 0.7247247099876404, 'covertype_val_f1-score': 0.7161605954170227, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7247247099876404}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 940 samples (47.00%) + Class 2: 798 samples (39.90%) + Class 3: 56 samples (2.80%) + Class 4: 148 samples (7.40%) + Class 5: 54 samples (2.70%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7250000238418579 │ +│ covertype_test_f1-score │ 0.7195613384246826 │ +│ covertype_test_loss │ 0.6504576206207275 │ +│ covertype_test_precision │ 0.7198023796081543 │ +│ covertype_test_recall │ 0.7250000238418579 │ +│ covertype_test_score │ 0.7250000238418579 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 516.06it/s +Test metrics: [{'covertype_test_loss': 0.6504576206207275, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7250000238418579, 'covertype_test_precision': 0.7198023796081543, 'covertype_test_recall': 0.7250000238418579, 'covertype_test_f1-score': 0.7195613384246826, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7250000238418579}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 927 samples (48.79%) + Class 2: 794 samples (41.79%) + Class 3: 56 samples (2.95%) + Class 4: 69 samples (3.63%) + Class 5: 53 samples (2.79%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7316 +covertype_test_precision 5% removed: 0.7271 +covertype_test_recall 5% removed: 0.7316 +covertype_test_f1-score 5% removed: 0.7270 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 899 samples (49.94%) + Class 2: 780 samples (43.33%) + Class 3: 54 samples (3.00%) + Class 4: 43 samples (2.39%) + Class 5: 23 samples (1.28%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7378 +covertype_test_precision 10% removed: 0.7308 +covertype_test_recall 10% removed: 0.7378 +covertype_test_f1-score 10% removed: 0.7322 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 795 samples (49.69%) + Class 2: 715 samples (44.69%) + Class 3: 51 samples (3.19%) + Class 4: 30 samples (1.88%) + Class 5: 8 samples (0.50%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7450 +covertype_test_precision 20% removed: 0.7376 +covertype_test_recall 20% removed: 0.7450 +covertype_test_f1-score 20% removed: 0.7395 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 509 samples (50.90%) + Class 2: 439 samples (43.90%) + Class 3: 46 samples (4.60%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7570 +covertype_test_precision 50% removed: 0.7460 +covertype_test_recall 50% removed: 0.7570 +covertype_test_f1-score 50% removed: 0.7512 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1nngheje/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp1nngheje/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1nngheje/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1nngheje/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 42/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 178.77it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7387387156486511 │ +│ covertype_val_f1-score │ 0.7253754734992981 │ +│ covertype_val_loss │ 0.6598713397979736 │ +│ covertype_val_precision │ 0.7299927473068237 │ +│ covertype_val_recall │ 0.7387387156486511 │ +│ covertype_val_score │ 0.7387387156486511 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 424.92it/s +Validation metrics: [{'covertype_val_loss': 0.6598713397979736, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7387387156486511, 'covertype_val_precision': 0.7299927473068237, 'covertype_val_recall': 0.7387387156486511, 'covertype_val_f1-score': 0.7253754734992981, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7387387156486511}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1027 samples (51.35%) + Class 2: 730 samples (36.50%) + Class 3: 41 samples (2.05%) + Class 4: 188 samples (9.40%) + Class 5: 14 samples (0.70%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7200000286102295 │ +│ covertype_test_f1-score │ 0.7068215012550354 │ +│ covertype_test_loss │ 0.6583989858627319 │ +│ covertype_test_precision │ 0.7079524397850037 │ +│ covertype_test_recall │ 0.7200000286102295 │ +│ covertype_test_score │ 0.7200000286102295 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 464.04it/s +Test metrics: [{'covertype_test_loss': 0.6583989858627319, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7200000286102295, 'covertype_test_precision': 0.7079524397850037, 'covertype_test_recall': 0.7200000286102295, 'covertype_test_f1-score': 0.7068215012550354, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7200000286102295}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1014 samples (53.37%) + Class 2: 726 samples (38.21%) + Class 3: 41 samples (2.16%) + Class 4: 105 samples (5.53%) + Class 5: 14 samples (0.74%) +============================================================ +covertype_test_accuracy 5% removed: 0.7274 +covertype_test_precision 5% removed: 0.7158 +covertype_test_recall 5% removed: 0.7274 +covertype_test_f1-score 5% removed: 0.7174 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 985 samples (54.72%) + Class 2: 710 samples (39.44%) + Class 3: 40 samples (2.22%) + Class 4: 52 samples (2.89%) + Class 5: 13 samples (0.72%) +============================================================ +covertype_test_accuracy 10% removed: 0.7339 +covertype_test_precision 10% removed: 0.7200 +covertype_test_recall 10% removed: 0.7339 +covertype_test_f1-score 10% removed: 0.7255 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 876 samples (54.75%) + Class 2: 648 samples (40.50%) + Class 3: 37 samples (2.31%) + Class 4: 32 samples (2.00%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7394 +covertype_test_precision 20% removed: 0.7276 +covertype_test_recall 20% removed: 0.7394 +covertype_test_f1-score 20% removed: 0.7319 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 561 samples (56.10%) + Class 2: 397 samples (39.70%) + Class 3: 36 samples (3.60%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7520 +covertype_test_precision 50% removed: 0.7397 +covertype_test_recall 50% removed: 0.7520 +covertype_test_f1-score 50% removed: 0.7442 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1nngheje/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp1nngheje/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1nngheje/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1nngheje/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 32/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 192.72it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.672672688961029 │ +│ covertype_val_f1-score │ 0.6317560076713562 │ +│ covertype_val_loss │ 0.7162241339683533 │ +│ covertype_val_precision │ 0.6593693494796753 │ +│ covertype_val_recall │ 0.672672688961029 │ +│ covertype_val_score │ 0.672672688961029 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 500.62it/s +Validation metrics: [{'covertype_val_loss': 0.7162241339683533, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.672672688961029, 'covertype_val_precision': 0.6593693494796753, 'covertype_val_recall': 0.672672688961029, 'covertype_val_f1-score': 0.6317560076713562, 'covertype_val_support': 999.0, 'covertype_val_score': 0.672672688961029}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1414 samples (70.70%) + Class 2: 372 samples (18.60%) + Class 3: 18 samples (0.90%) + Class 4: 194 samples (9.70%) + Class 5: 1 samples (0.05%) + Class 6: 1 samples (0.05%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6675000190734863 │ +│ covertype_test_f1-score │ 0.6266601085662842 │ +│ covertype_test_loss │ 0.7266539931297302 │ +│ covertype_test_precision │ 0.6688277125358582 │ +│ covertype_test_recall │ 0.6675000190734863 │ +│ covertype_test_score │ 0.6675000190734863 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 462.11it/s +Test metrics: [{'covertype_test_loss': 0.7266539931297302, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6675000190734863, 'covertype_test_precision': 0.6688277125358582, 'covertype_test_recall': 0.6675000190734863, 'covertype_test_f1-score': 0.6266601085662842, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6675000190734863}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1400 samples (73.68%) + Class 2: 368 samples (19.37%) + Class 3: 18 samples (0.95%) + Class 4: 112 samples (5.89%) + Class 5: 1 samples (0.05%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.6721 +covertype_test_precision 5% removed: 0.6772 +covertype_test_recall 5% removed: 0.6721 +covertype_test_f1-score 5% removed: 0.6332 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 1364 samples (75.78%) + Class 2: 359 samples (19.94%) + Class 3: 17 samples (0.94%) + Class 4: 58 samples (3.22%) + Class 5: 1 samples (0.06%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.6756 +covertype_test_precision 10% removed: 0.6853 +covertype_test_recall 10% removed: 0.6756 +covertype_test_f1-score 10% removed: 0.6378 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 1234 samples (77.12%) + Class 2: 314 samples (19.62%) + Class 3: 15 samples (0.94%) + Class 4: 35 samples (2.19%) + Class 5: 1 samples (0.06%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.6731 +covertype_test_precision 20% removed: 0.6889 +covertype_test_recall 20% removed: 0.6731 +covertype_test_f1-score 20% removed: 0.6329 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 789 samples (78.90%) + Class 2: 189 samples (18.90%) + Class 3: 15 samples (1.50%) + Class 4: 6 samples (0.60%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.6640 +covertype_test_precision 50% removed: 0.6955 +covertype_test_recall 50% removed: 0.6640 +covertype_test_f1-score 50% removed: 0.6204 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1nngheje/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp1nngheje/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1nngheje/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1nngheje/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 36/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 182.55it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7347347140312195 │ +│ covertype_val_f1-score │ 0.7248263359069824 │ +│ covertype_val_loss │ 0.6424408555030823 │ +│ covertype_val_precision │ 0.7221247553825378 │ +│ covertype_val_recall │ 0.7347347140312195 │ +│ covertype_val_score │ 0.7347347140312195 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 433.73it/s +Validation metrics: [{'covertype_val_loss': 0.6424408555030823, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7347347140312195, 'covertype_val_precision': 0.7221247553825378, 'covertype_val_recall': 0.7347347140312195, 'covertype_val_f1-score': 0.7248263359069824, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7347347140312195}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1078 samples (53.90%) + Class 2: 669 samples (33.45%) + Class 3: 48 samples (2.40%) + Class 4: 174 samples (8.70%) + Class 5: 30 samples (1.50%) + Class 6: 1 samples (0.05%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7225000262260437 │ +│ covertype_test_f1-score │ 0.7115631103515625 │ +│ covertype_test_loss │ 0.650926411151886 │ +│ covertype_test_precision │ 0.7118163108825684 │ +│ covertype_test_recall │ 0.7225000262260437 │ +│ covertype_test_score │ 0.7225000262260437 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 488.95it/s +Test metrics: [{'covertype_test_loss': 0.650926411151886, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7225000262260437, 'covertype_test_precision': 0.7118163108825684, 'covertype_test_recall': 0.7225000262260437, 'covertype_test_f1-score': 0.7115631103515625, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7225000262260437}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1065 samples (56.05%) + Class 2: 665 samples (35.00%) + Class 3: 48 samples (2.53%) + Class 4: 91 samples (4.79%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7300 +covertype_test_precision 5% removed: 0.7181 +covertype_test_recall 5% removed: 0.7300 +covertype_test_f1-score 5% removed: 0.7215 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 1036 samples (57.56%) + Class 2: 650 samples (36.11%) + Class 3: 47 samples (2.61%) + Class 4: 47 samples (2.61%) + Class 5: 19 samples (1.06%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7344 +covertype_test_precision 10% removed: 0.7214 +covertype_test_recall 10% removed: 0.7344 +covertype_test_f1-score 10% removed: 0.7261 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 924 samples (57.75%) + Class 2: 593 samples (37.06%) + Class 3: 44 samples (2.75%) + Class 4: 30 samples (1.88%) + Class 5: 8 samples (0.50%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7394 +covertype_test_precision 20% removed: 0.7263 +covertype_test_recall 20% removed: 0.7394 +covertype_test_f1-score 20% removed: 0.7311 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 582 samples (58.20%) + Class 2: 373 samples (37.30%) + Class 3: 39 samples (3.90%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7380 +covertype_test_precision 50% removed: 0.7258 +covertype_test_recall 50% removed: 0.7380 +covertype_test_f1-score 50% removed: 0.7291 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1nngheje/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp1nngheje/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1nngheje/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1nngheje/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 35/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 215.83it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7307307124137878 │ +│ covertype_val_f1-score │ 0.7269264459609985 │ +│ covertype_val_loss │ 0.749505341053009 │ +│ covertype_val_precision │ 0.7255398035049438 │ +│ covertype_val_recall │ 0.7307307124137878 │ +│ covertype_val_score │ 0.7307307124137878 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 480.37it/s +Validation metrics: [{'covertype_val_loss': 0.749505341053009, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7307307124137878, 'covertype_val_precision': 0.7255398035049438, 'covertype_val_recall': 0.7307307124137878, 'covertype_val_f1-score': 0.7269264459609985, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7307307124137878}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 1 samples (0.05%) + Class 1: 1081 samples (54.05%) + Class 2: 646 samples (32.30%) + Class 3: 46 samples (2.30%) + Class 4: 133 samples (6.65%) + Class 5: 83 samples (4.15%) + Class 6: 10 samples (0.50%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7145000100135803 │ +│ covertype_test_f1-score │ 0.7100377678871155 │ +│ covertype_test_loss │ 0.7518482208251953 │ +│ covertype_test_precision │ 0.7098221182823181 │ +│ covertype_test_recall │ 0.7145000100135803 │ +│ covertype_test_score │ 0.7145000100135803 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 533.80it/s +Test metrics: [{'covertype_test_loss': 0.7518482208251953, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7145000100135803, 'covertype_test_precision': 0.7098221182823181, 'covertype_test_recall': 0.7145000100135803, 'covertype_test_f1-score': 0.7100377678871155, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7145000100135803}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 1 samples (0.05%) + Class 1: 1068 samples (56.21%) + Class 2: 642 samples (33.79%) + Class 3: 46 samples (2.42%) + Class 4: 65 samples (3.42%) + Class 5: 77 samples (4.05%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7221 +covertype_test_precision 5% removed: 0.7185 +covertype_test_recall 5% removed: 0.7221 +covertype_test_f1-score 5% removed: 0.7174 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 1041 samples (57.83%) + Class 2: 629 samples (34.94%) + Class 3: 44 samples (2.44%) + Class 4: 32 samples (1.78%) + Class 5: 52 samples (2.89%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7283 +covertype_test_precision 10% removed: 0.7249 +covertype_test_recall 10% removed: 0.7283 +covertype_test_f1-score 10% removed: 0.7229 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 944 samples (59.00%) + Class 2: 568 samples (35.50%) + Class 3: 41 samples (2.56%) + Class 4: 20 samples (1.25%) + Class 5: 25 samples (1.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7356 +covertype_test_precision 20% removed: 0.7286 +covertype_test_recall 20% removed: 0.7356 +covertype_test_f1-score 20% removed: 0.7287 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 626 samples (62.60%) + Class 2: 330 samples (33.00%) + Class 3: 37 samples (3.70%) + Class 4: 4 samples (0.40%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7400 +covertype_test_precision 50% removed: 0.7355 +covertype_test_recall 50% removed: 0.7400 +covertype_test_f1-score 50% removed: 0.7294 +Wrote results for mlp on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/mlp_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7099±0.0298 5%: 0.7166±0.0312 10%: 0.7220±0.0325 20%: 0.7265±0.0373 50%: 0.7302±0.0470 +covertype_test_precision 0%: 0.7036±0.0248 5%: 0.7113±0.0243 10%: 0.7165±0.0222 20%: 0.7218±0.0235 50%: 0.7285±0.0247 +covertype_test_recall 0%: 0.7099±0.0298 5%: 0.7166±0.0312 10%: 0.7220±0.0325 20%: 0.7265±0.0373 50%: 0.7302±0.0470 +covertype_test_f1-score 0%: 0.6949±0.0477 5%: 0.7033±0.0489 10%: 0.7089±0.0495 20%: 0.7128±0.0557 50%: 0.7149±0.0666 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'dcnv2'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp0amp3_0_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp0amp3_0_/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp0amp3_0_/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp0amp3_0_/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 153.12it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.770770788192749 │ +│ covertype_val_f1-score │ 0.7651687860488892 │ +│ covertype_val_loss │ 0.5587286949157715 │ +│ covertype_val_precision │ 0.7649514675140381 │ +│ covertype_val_recall │ 0.770770788192749 │ +│ covertype_val_score │ 0.770770788192749 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 221.08it/s +Validation metrics: [{'covertype_val_loss': 0.5587286949157715, 'lr': 0.0, 'covertype_val_accuracy': 0.770770788192749, 'covertype_val_precision': 0.7649514675140381, 'covertype_val_recall': 0.770770788192749, 'covertype_val_f1-score': 0.7651687860488892, 'covertype_val_support': 999.0, 'covertype_val_score': 0.770770788192749}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 1018 samples (50.90%) + Class 2: 717 samples (35.85%) + Class 3: 54 samples (2.70%) + Class 4: 145 samples (7.25%) + Class 5: 44 samples (2.20%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7835000157356262 │ +│ covertype_test_f1-score │ 0.7811163663864136 │ +│ covertype_test_loss │ 0.5631707310676575 │ +│ covertype_test_precision │ 0.7833352088928223 │ +│ covertype_test_recall │ 0.7835000157356262 │ +│ covertype_test_score │ 0.7835000157356262 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 394.43it/s +Test metrics: [{'covertype_test_loss': 0.5631707310676575, 'lr': 0.0, 'covertype_test_accuracy': 0.7835000157356262, 'covertype_test_precision': 0.7833352088928223, 'covertype_test_recall': 0.7835000157356262, 'covertype_test_f1-score': 0.7811163663864136, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7835000157356262}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 996 samples (52.42%) + Class 2: 713 samples (37.53%) + Class 3: 54 samples (2.84%) + Class 4: 78 samples (4.11%) + Class 5: 41 samples (2.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.7879 +covertype_test_precision 5% removed: 0.7863 +covertype_test_recall 5% removed: 0.7879 +covertype_test_f1-score 5% removed: 0.7862 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 967 samples (53.72%) + Class 2: 697 samples (38.72%) + Class 3: 52 samples (2.89%) + Class 4: 48 samples (2.67%) + Class 5: 19 samples (1.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7944 +covertype_test_precision 10% removed: 0.7915 +covertype_test_recall 10% removed: 0.7944 +covertype_test_f1-score 10% removed: 0.7921 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 16 samples (1.00%) + Class 1: 857 samples (53.56%) + Class 2: 635 samples (39.69%) + Class 3: 50 samples (3.12%) + Class 4: 31 samples (1.94%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.8012 +covertype_test_precision 20% removed: 0.8001 +covertype_test_recall 20% removed: 0.8012 +covertype_test_f1-score 20% removed: 0.8000 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 547 samples (54.70%) + Class 2: 396 samples (39.60%) + Class 3: 43 samples (4.30%) + Class 4: 6 samples (0.60%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8000 +covertype_test_precision 50% removed: 0.7987 +covertype_test_recall 50% removed: 0.8000 +covertype_test_f1-score 50% removed: 0.7978 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp0amp3_0_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp0amp3_0_/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp0amp3_0_/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp0amp3_0_/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 44/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 153.84it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7737737894058228 │ +│ covertype_val_f1-score │ 0.7689816951751709 │ +│ covertype_val_loss │ 0.5728197693824768 │ +│ covertype_val_precision │ 0.7679265737533569 │ +│ covertype_val_recall │ 0.7737737894058228 │ +│ covertype_val_score │ 0.7737737894058228 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 2.4471739379805513e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 376.45it/s +Validation metrics: [{'covertype_val_loss': 0.5728197693824768, 'lr': 2.4471739379805513e-05, 'covertype_val_accuracy': 0.7737737894058228, 'covertype_val_precision': 0.7679265737533569, 'covertype_val_recall': 0.7737737894058228, 'covertype_val_f1-score': 0.7689816951751709, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7737737894058228}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 1049 samples (52.45%) + Class 2: 675 samples (33.75%) + Class 3: 63 samples (3.15%) + Class 4: 129 samples (6.45%) + Class 5: 62 samples (3.10%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7864999771118164 │ +│ covertype_test_f1-score │ 0.7850546836853027 │ +│ covertype_test_loss │ 0.5615999698638916 │ +│ covertype_test_precision │ 0.7864114046096802 │ +│ covertype_test_recall │ 0.7864999771118164 │ +│ covertype_test_score │ 0.7864999771118164 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 2.4471744836773723e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 385.13it/s +Test metrics: [{'covertype_test_loss': 0.5615999698638916, 'lr': 2.4471744836773723e-05, 'covertype_test_accuracy': 0.7864999771118164, 'covertype_test_precision': 0.7864114046096802, 'covertype_test_recall': 0.7864999771118164, 'covertype_test_f1-score': 0.7850546836853027, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7864999771118164}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 1029 samples (54.16%) + Class 2: 670 samples (35.26%) + Class 3: 63 samples (3.32%) + Class 4: 67 samples (3.53%) + Class 5: 54 samples (2.84%) +============================================================ +covertype_test_accuracy 5% removed: 0.7916 +covertype_test_precision 5% removed: 0.7903 +covertype_test_recall 5% removed: 0.7916 +covertype_test_f1-score 5% removed: 0.7899 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 998 samples (55.44%) + Class 2: 655 samples (36.39%) + Class 3: 61 samples (3.39%) + Class 4: 43 samples (2.39%) + Class 5: 26 samples (1.44%) +============================================================ +covertype_test_accuracy 10% removed: 0.8006 +covertype_test_precision 10% removed: 0.7982 +covertype_test_recall 10% removed: 0.8006 +covertype_test_f1-score 10% removed: 0.7982 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (1.06%) + Class 1: 884 samples (55.25%) + Class 2: 599 samples (37.44%) + Class 3: 58 samples (3.62%) + Class 4: 29 samples (1.81%) + Class 5: 13 samples (0.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.8050 +covertype_test_precision 20% removed: 0.8038 +covertype_test_recall 20% removed: 0.8050 +covertype_test_f1-score 20% removed: 0.8036 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 562 samples (56.20%) + Class 2: 373 samples (37.30%) + Class 3: 51 samples (5.10%) + Class 4: 5 samples (0.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8090 +covertype_test_precision 50% removed: 0.8080 +covertype_test_recall 50% removed: 0.8090 +covertype_test_f1-score 50% removed: 0.8062 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp0amp3_0_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp0amp3_0_/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp0amp3_0_/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp0amp3_0_/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 47/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 189.40it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.781781792640686 │ +│ covertype_val_f1-score │ 0.7771526575088501 │ +│ covertype_val_loss │ 0.5769650340080261 │ +│ covertype_val_precision │ 0.7766842246055603 │ +│ covertype_val_recall │ 0.781781792640686 │ +│ covertype_val_score │ 0.781781792640686 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 369.90it/s +Validation metrics: [{'covertype_val_loss': 0.5769650340080261, 'lr': 3.9426490729965735e-06, 'covertype_val_accuracy': 0.781781792640686, 'covertype_val_precision': 0.7766842246055603, 'covertype_val_recall': 0.781781792640686, 'covertype_val_f1-score': 0.7771526575088501, 'covertype_val_support': 999.0, 'covertype_val_score': 0.781781792640686}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 1025 samples (51.25%) + Class 2: 707 samples (35.35%) + Class 3: 56 samples (2.80%) + Class 4: 139 samples (6.95%) + Class 5: 50 samples (2.50%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7850000262260437 │ +│ covertype_test_f1-score │ 0.7833549976348877 │ +│ covertype_test_loss │ 0.5657130479812622 │ +│ covertype_test_precision │ 0.7849203944206238 │ +│ covertype_test_recall │ 0.7850000262260437 │ +│ covertype_test_score │ 0.7850000262260437 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 398.22it/s +Test metrics: [{'covertype_test_loss': 0.5657130479812622, 'lr': 3.9426490729965735e-06, 'covertype_test_accuracy': 0.7850000262260437, 'covertype_test_precision': 0.7849203944206238, 'covertype_test_recall': 0.7850000262260437, 'covertype_test_f1-score': 0.7833549976348877, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7850000262260437}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 1007 samples (53.00%) + Class 2: 703 samples (37.00%) + Class 3: 56 samples (2.95%) + Class 4: 69 samples (3.63%) + Class 5: 47 samples (2.47%) +============================================================ +covertype_test_accuracy 5% removed: 0.7921 +covertype_test_precision 5% removed: 0.7906 +covertype_test_recall 5% removed: 0.7921 +covertype_test_f1-score 5% removed: 0.7906 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 975 samples (54.17%) + Class 2: 688 samples (38.22%) + Class 3: 54 samples (3.00%) + Class 4: 45 samples (2.50%) + Class 5: 21 samples (1.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7983 +covertype_test_precision 10% removed: 0.7961 +covertype_test_recall 10% removed: 0.7983 +covertype_test_f1-score 10% removed: 0.7963 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 16 samples (1.00%) + Class 1: 866 samples (54.12%) + Class 2: 627 samples (39.19%) + Class 3: 52 samples (3.25%) + Class 4: 28 samples (1.75%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.8056 +covertype_test_precision 20% removed: 0.8047 +covertype_test_recall 20% removed: 0.8056 +covertype_test_f1-score 20% removed: 0.8045 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 550 samples (55.00%) + Class 2: 391 samples (39.10%) + Class 3: 46 samples (4.60%) + Class 4: 5 samples (0.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8120 +covertype_test_precision 50% removed: 0.8106 +covertype_test_recall 50% removed: 0.8120 +covertype_test_f1-score 50% removed: 0.8097 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp0amp3_0_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp0amp3_0_/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp0amp3_0_/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp0amp3_0_/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 149.80it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7777777910232544 │ +│ covertype_val_f1-score │ 0.7730730175971985 │ +│ covertype_val_loss │ 0.5718360543251038 │ +│ covertype_val_precision │ 0.7704772353172302 │ +│ covertype_val_recall │ 0.7777777910232544 │ +│ covertype_val_score │ 0.7777777910232544 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 442.22it/s +Validation metrics: [{'covertype_val_loss': 0.5718360543251038, 'lr': 0.0, 'covertype_val_accuracy': 0.7777777910232544, 'covertype_val_precision': 0.7704772353172302, 'covertype_val_recall': 0.7777777910232544, 'covertype_val_f1-score': 0.7730730175971985, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7777777910232544}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1026 samples (51.30%) + Class 2: 713 samples (35.65%) + Class 3: 58 samples (2.90%) + Class 4: 128 samples (6.40%) + Class 5: 55 samples (2.75%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7864999771118164 │ +│ covertype_test_f1-score │ 0.7844406366348267 │ +│ covertype_test_loss │ 0.5730385780334473 │ +│ covertype_test_precision │ 0.7851855158805847 │ +│ covertype_test_recall │ 0.7864999771118164 │ +│ covertype_test_score │ 0.7864999771118164 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 424.33it/s +Test metrics: [{'covertype_test_loss': 0.5730385780334473, 'lr': 0.0, 'covertype_test_accuracy': 0.7864999771118164, 'covertype_test_precision': 0.7851855158805847, 'covertype_test_recall': 0.7864999771118164, 'covertype_test_f1-score': 0.7844406366348267, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7864999771118164}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 1001 samples (52.68%) + Class 2: 709 samples (37.32%) + Class 3: 58 samples (3.05%) + Class 4: 66 samples (3.47%) + Class 5: 51 samples (2.68%) +============================================================ +covertype_test_accuracy 5% removed: 0.7911 +covertype_test_precision 5% removed: 0.7897 +covertype_test_recall 5% removed: 0.7911 +covertype_test_f1-score 5% removed: 0.7893 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 14 samples (0.78%) + Class 1: 972 samples (54.00%) + Class 2: 694 samples (38.56%) + Class 3: 56 samples (3.11%) + Class 4: 45 samples (2.50%) + Class 5: 19 samples (1.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.8000 +covertype_test_precision 10% removed: 0.7971 +covertype_test_recall 10% removed: 0.8000 +covertype_test_f1-score 10% removed: 0.7973 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 860 samples (53.75%) + Class 2: 634 samples (39.62%) + Class 3: 54 samples (3.38%) + Class 4: 30 samples (1.88%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.8037 +covertype_test_precision 20% removed: 0.8027 +covertype_test_recall 20% removed: 0.8037 +covertype_test_f1-score 20% removed: 0.8021 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 532 samples (53.20%) + Class 2: 405 samples (40.50%) + Class 3: 49 samples (4.90%) + Class 4: 7 samples (0.70%) +============================================================ +covertype_test_accuracy 50% removed: 0.8040 +covertype_test_precision 50% removed: 0.8016 +covertype_test_recall 50% removed: 0.8040 +covertype_test_f1-score 50% removed: 0.8016 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp0amp3_0_/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp0amp3_0_/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp0amp3_0_/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp0amp3_0_/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 176.89it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7687687873840332 │ +│ covertype_val_f1-score │ 0.7631721496582031 │ +│ covertype_val_loss │ 0.5721086859703064 │ +│ covertype_val_precision │ 0.760955810546875 │ +│ covertype_val_recall │ 0.7687687873840332 │ +│ covertype_val_score │ 0.7687687873840332 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 375.75it/s +Validation metrics: [{'covertype_val_loss': 0.5721086859703064, 'lr': 0.0, 'covertype_val_accuracy': 0.7687687873840332, 'covertype_val_precision': 0.760955810546875, 'covertype_val_recall': 0.7687687873840332, 'covertype_val_f1-score': 0.7631721496582031, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7687687873840332}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1008 samples (50.40%) + Class 2: 727 samples (36.35%) + Class 3: 55 samples (2.75%) + Class 4: 136 samples (6.80%) + Class 5: 54 samples (2.70%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7835000157356262 │ +│ covertype_test_f1-score │ 0.7816469669342041 │ +│ covertype_test_loss │ 0.554989755153656 │ +│ covertype_test_precision │ 0.7833259105682373 │ +│ covertype_test_recall │ 0.7835000157356262 │ +│ covertype_test_score │ 0.7835000157356262 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 400.60it/s +Test metrics: [{'covertype_test_loss': 0.554989755153656, 'lr': 0.0, 'covertype_test_accuracy': 0.7835000157356262, 'covertype_test_precision': 0.7833259105682373, 'covertype_test_recall': 0.7835000157356262, 'covertype_test_f1-score': 0.7816469669342041, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7835000157356262}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 16 samples (0.84%) + Class 1: 989 samples (52.05%) + Class 2: 719 samples (37.84%) + Class 3: 55 samples (2.89%) + Class 4: 70 samples (3.68%) + Class 5: 51 samples (2.68%) +============================================================ +covertype_test_accuracy 5% removed: 0.7884 +covertype_test_precision 5% removed: 0.7873 +covertype_test_recall 5% removed: 0.7884 +covertype_test_f1-score 5% removed: 0.7869 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 958 samples (53.22%) + Class 2: 704 samples (39.11%) + Class 3: 53 samples (2.94%) + Class 4: 48 samples (2.67%) + Class 5: 21 samples (1.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7961 +covertype_test_precision 10% removed: 0.7935 +covertype_test_recall 10% removed: 0.7961 +covertype_test_f1-score 10% removed: 0.7939 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 855 samples (53.44%) + Class 2: 640 samples (40.00%) + Class 3: 51 samples (3.19%) + Class 4: 32 samples (2.00%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.8019 +covertype_test_precision 20% removed: 0.8014 +covertype_test_recall 20% removed: 0.8019 +covertype_test_f1-score 20% removed: 0.8003 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 538 samples (53.80%) + Class 2: 406 samples (40.60%) + Class 3: 44 samples (4.40%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.8060 +covertype_test_precision 50% removed: 0.8034 +covertype_test_recall 50% removed: 0.8060 +covertype_test_f1-score 50% removed: 0.8033 +Wrote results for dcnv2 on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/dcnv2_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7850±0.0019 5%: 0.7902±0.0024 10%: 0.7979±0.0032 20%: 0.8035±0.0024 50%: 0.8062±0.0057 +covertype_test_precision 0%: 0.7846±0.0016 5%: 0.7889±0.0024 10%: 0.7953±0.0034 20%: 0.8026±0.0023 50%: 0.8045±0.0060 +covertype_test_recall 0%: 0.7850±0.0019 5%: 0.7902±0.0024 10%: 0.7979±0.0032 20%: 0.8035±0.0024 50%: 0.8062±0.0057 +covertype_test_f1-score 0%: 0.7831±0.0021 5%: 0.7886±0.0024 10%: 0.7955±0.0031 20%: 0.8021±0.0025 50%: 0.8037±0.0056 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'resnet'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp66duydrp/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp66duydrp/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp66duydrp/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp66duydrp/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 133.67it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7537537813186646 │ +│ covertype_val_f1-score │ 0.7517172694206238 │ +│ covertype_val_loss │ 0.5929571986198425 │ +│ covertype_val_precision │ 0.7517741322517395 │ +│ covertype_val_recall │ 0.7537537813186646 │ +│ covertype_val_score │ 0.7537537813186646 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 397.76it/s +Validation metrics: [{'covertype_val_loss': 0.5929571986198425, 'lr': 0.0, 'covertype_val_accuracy': 0.7537537813186646, 'covertype_val_precision': 0.7517741322517395, 'covertype_val_recall': 0.7537537813186646, 'covertype_val_f1-score': 0.7517172694206238, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7537537813186646}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 23 samples (1.15%) + Class 1: 1026 samples (51.30%) + Class 2: 696 samples (34.80%) + Class 3: 63 samples (3.15%) + Class 4: 114 samples (5.70%) + Class 5: 75 samples (3.75%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.781000018119812 │ +│ covertype_test_f1-score │ 0.7806441783905029 │ +│ covertype_test_loss │ 0.5649163126945496 │ +│ covertype_test_precision │ 0.7819108366966248 │ +│ covertype_test_recall │ 0.781000018119812 │ +│ covertype_test_score │ 0.781000018119812 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 397.62it/s +Test metrics: [{'covertype_test_loss': 0.5649163126945496, 'lr': 0.0, 'covertype_test_accuracy': 0.781000018119812, 'covertype_test_precision': 0.7819108366966248, 'covertype_test_recall': 0.781000018119812, 'covertype_test_f1-score': 0.7806441783905029, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.781000018119812}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 22 samples (1.16%) + Class 1: 1005 samples (52.89%) + Class 2: 689 samples (36.26%) + Class 3: 63 samples (3.32%) + Class 4: 56 samples (2.95%) + Class 5: 65 samples (3.42%) +============================================================ +covertype_test_accuracy 5% removed: 0.7863 +covertype_test_precision 5% removed: 0.7867 +covertype_test_recall 5% removed: 0.7863 +covertype_test_f1-score 5% removed: 0.7856 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 21 samples (1.17%) + Class 1: 976 samples (54.22%) + Class 2: 674 samples (37.44%) + Class 3: 61 samples (3.39%) + Class 4: 43 samples (2.39%) + Class 5: 25 samples (1.39%) +============================================================ +covertype_test_accuracy 10% removed: 0.7939 +covertype_test_precision 10% removed: 0.7922 +covertype_test_recall 10% removed: 0.7939 +covertype_test_f1-score 10% removed: 0.7925 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 21 samples (1.31%) + Class 1: 860 samples (53.75%) + Class 2: 616 samples (38.50%) + Class 3: 58 samples (3.62%) + Class 4: 31 samples (1.94%) + Class 5: 14 samples (0.88%) +============================================================ +covertype_test_accuracy 20% removed: 0.7944 +covertype_test_precision 20% removed: 0.7944 +covertype_test_recall 20% removed: 0.7944 +covertype_test_f1-score 20% removed: 0.7940 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 12 samples (1.20%) + Class 1: 547 samples (54.70%) + Class 2: 383 samples (38.30%) + Class 3: 51 samples (5.10%) + Class 4: 6 samples (0.60%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7870 +covertype_test_precision 50% removed: 0.7863 +covertype_test_recall 50% removed: 0.7870 +covertype_test_f1-score 50% removed: 0.7854 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp66duydrp/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp66duydrp/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp66duydrp/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp66duydrp/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 150.61it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7547547817230225 │ +│ covertype_val_f1-score │ 0.7464765310287476 │ +│ covertype_val_loss │ 0.5935730338096619 │ +│ covertype_val_precision │ 0.7461211681365967 │ +│ covertype_val_recall │ 0.7547547817230225 │ +│ covertype_val_score │ 0.7547547817230225 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 432.64it/s +Validation metrics: [{'covertype_val_loss': 0.5935730338096619, 'lr': 0.0, 'covertype_val_accuracy': 0.7547547817230225, 'covertype_val_precision': 0.7461211681365967, 'covertype_val_recall': 0.7547547817230225, 'covertype_val_f1-score': 0.7464765310287476, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7547547817230225}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 33 samples (1.65%) + Class 1: 1005 samples (50.25%) + Class 2: 745 samples (37.25%) + Class 3: 46 samples (2.30%) + Class 4: 120 samples (6.00%) + Class 5: 45 samples (2.25%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7789999842643738 │ +│ covertype_test_f1-score │ 0.7777809500694275 │ +│ covertype_test_loss │ 0.5718835592269897 │ +│ covertype_test_precision │ 0.7794024348258972 │ +│ covertype_test_recall │ 0.7789999842643738 │ +│ covertype_test_score │ 0.7789999842643738 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 400.70it/s +Test metrics: [{'covertype_test_loss': 0.5718835592269897, 'lr': 0.0, 'covertype_test_accuracy': 0.7789999842643738, 'covertype_test_precision': 0.7794024348258972, 'covertype_test_recall': 0.7789999842643738, 'covertype_test_f1-score': 0.7777809500694275, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7789999842643738}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 979 samples (51.53%) + Class 2: 740 samples (38.95%) + Class 3: 46 samples (2.42%) + Class 4: 64 samples (3.37%) + Class 5: 38 samples (2.00%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7832 +covertype_test_precision 5% removed: 0.7852 +covertype_test_recall 5% removed: 0.7832 +covertype_test_f1-score 5% removed: 0.7827 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 29 samples (1.61%) + Class 1: 943 samples (52.39%) + Class 2: 726 samples (40.33%) + Class 3: 45 samples (2.50%) + Class 4: 36 samples (2.00%) + Class 5: 20 samples (1.11%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7872 +covertype_test_precision 10% removed: 0.7887 +covertype_test_recall 10% removed: 0.7872 +covertype_test_f1-score 10% removed: 0.7866 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 24 samples (1.50%) + Class 1: 839 samples (52.44%) + Class 2: 660 samples (41.25%) + Class 3: 43 samples (2.69%) + Class 4: 20 samples (1.25%) + Class 5: 13 samples (0.81%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7925 +covertype_test_precision 20% removed: 0.7942 +covertype_test_recall 20% removed: 0.7925 +covertype_test_f1-score 20% removed: 0.7924 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 526 samples (52.60%) + Class 2: 419 samples (41.90%) + Class 3: 38 samples (3.80%) + Class 4: 4 samples (0.40%) + Class 5: 4 samples (0.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.7930 +covertype_test_precision 50% removed: 0.7948 +covertype_test_recall 50% removed: 0.7930 +covertype_test_f1-score 50% removed: 0.7929 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp66duydrp/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp66duydrp/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp66duydrp/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp66duydrp/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 129.54it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7537537813186646 │ +│ covertype_val_f1-score │ 0.7473162412643433 │ +│ covertype_val_loss │ 0.5979341864585876 │ +│ covertype_val_precision │ 0.747901976108551 │ +│ covertype_val_recall │ 0.7537537813186646 │ +│ covertype_val_score │ 0.7537537813186646 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 415.54it/s +Validation metrics: [{'covertype_val_loss': 0.5979341864585876, 'lr': 0.0, 'covertype_val_accuracy': 0.7537537813186646, 'covertype_val_precision': 0.747901976108551, 'covertype_val_recall': 0.7537537813186646, 'covertype_val_f1-score': 0.7473162412643433, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7537537813186646}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 972 samples (48.60%) + Class 2: 784 samples (39.20%) + Class 3: 52 samples (2.60%) + Class 4: 119 samples (5.95%) + Class 5: 53 samples (2.65%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7724999785423279 │ +│ covertype_test_f1-score │ 0.7708983421325684 │ +│ covertype_test_loss │ 0.5562653541564941 │ +│ covertype_test_precision │ 0.7744247913360596 │ +│ covertype_test_recall │ 0.7724999785423279 │ +│ covertype_test_score │ 0.7724999785423279 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 401.83it/s +Test metrics: [{'covertype_test_loss': 0.5562653541564941, 'lr': 0.0, 'covertype_test_accuracy': 0.7724999785423279, 'covertype_test_precision': 0.7744247913360596, 'covertype_test_recall': 0.7724999785423279, 'covertype_test_f1-score': 0.7708983421325684, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7724999785423279}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 14 samples (0.74%) + Class 1: 945 samples (49.74%) + Class 2: 779 samples (41.00%) + Class 3: 52 samples (2.74%) + Class 4: 61 samples (3.21%) + Class 5: 47 samples (2.47%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7768 +covertype_test_precision 5% removed: 0.7805 +covertype_test_recall 5% removed: 0.7768 +covertype_test_f1-score 5% removed: 0.7760 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 14 samples (0.78%) + Class 1: 910 samples (50.56%) + Class 2: 763 samples (42.39%) + Class 3: 51 samples (2.83%) + Class 4: 37 samples (2.06%) + Class 5: 23 samples (1.28%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7817 +covertype_test_precision 10% removed: 0.7851 +covertype_test_recall 10% removed: 0.7817 +covertype_test_f1-score 10% removed: 0.7807 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 803 samples (50.19%) + Class 2: 698 samples (43.62%) + Class 3: 48 samples (3.00%) + Class 4: 24 samples (1.50%) + Class 5: 12 samples (0.75%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7862 +covertype_test_precision 20% removed: 0.7896 +covertype_test_recall 20% removed: 0.7862 +covertype_test_f1-score 20% removed: 0.7859 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 494 samples (49.40%) + Class 2: 451 samples (45.10%) + Class 3: 42 samples (4.20%) + Class 4: 5 samples (0.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7790 +covertype_test_precision 50% removed: 0.7800 +covertype_test_recall 50% removed: 0.7790 +covertype_test_f1-score 50% removed: 0.7779 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp66duydrp/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp66duydrp/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp66duydrp/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp66duydrp/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 168.13it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7727727890014648 │ +│ covertype_val_f1-score │ 0.7693508267402649 │ +│ covertype_val_loss │ 0.587358295917511 │ +│ covertype_val_precision │ 0.7669715881347656 │ +│ covertype_val_recall │ 0.7727727890014648 │ +│ covertype_val_score │ 0.7727727890014648 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 405.59it/s +Validation metrics: [{'covertype_val_loss': 0.587358295917511, 'lr': 0.0, 'covertype_val_accuracy': 0.7727727890014648, 'covertype_val_precision': 0.7669715881347656, 'covertype_val_recall': 0.7727727890014648, 'covertype_val_f1-score': 0.7693508267402649, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7727727890014648}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 33 samples (1.65%) + Class 1: 975 samples (48.75%) + Class 2: 752 samples (37.60%) + Class 3: 70 samples (3.50%) + Class 4: 113 samples (5.65%) + Class 5: 53 samples (2.65%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.765500009059906 │ +│ covertype_test_f1-score │ 0.7651219964027405 │ +│ covertype_test_loss │ 0.5866401195526123 │ +│ covertype_test_precision │ 0.7664816379547119 │ +│ covertype_test_recall │ 0.765500009059906 │ +│ covertype_test_score │ 0.765500009059906 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 419.95it/s +Test metrics: [{'covertype_test_loss': 0.5866401195526123, 'lr': 0.0, 'covertype_test_accuracy': 0.765500009059906, 'covertype_test_precision': 0.7664816379547119, 'covertype_test_recall': 0.765500009059906, 'covertype_test_f1-score': 0.7651219964027405, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.765500009059906}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 955 samples (50.26%) + Class 2: 743 samples (39.11%) + Class 3: 70 samples (3.68%) + Class 4: 55 samples (2.89%) + Class 5: 45 samples (2.37%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7711 +covertype_test_precision 5% removed: 0.7729 +covertype_test_recall 5% removed: 0.7711 +covertype_test_f1-score 5% removed: 0.7709 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 29 samples (1.61%) + Class 1: 919 samples (51.06%) + Class 2: 730 samples (40.56%) + Class 3: 68 samples (3.78%) + Class 4: 35 samples (1.94%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7750 +covertype_test_precision 10% removed: 0.7757 +covertype_test_recall 10% removed: 0.7750 +covertype_test_f1-score 10% removed: 0.7743 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 22 samples (1.38%) + Class 1: 813 samples (50.81%) + Class 2: 668 samples (41.75%) + Class 3: 65 samples (4.06%) + Class 4: 20 samples (1.25%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7794 +covertype_test_precision 20% removed: 0.7799 +covertype_test_recall 20% removed: 0.7794 +covertype_test_f1-score 20% removed: 0.7789 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 516 samples (51.60%) + Class 2: 413 samples (41.30%) + Class 3: 56 samples (5.60%) + Class 4: 6 samples (0.60%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7860 +covertype_test_precision 50% removed: 0.7833 +covertype_test_recall 50% removed: 0.7860 +covertype_test_f1-score 50% removed: 0.7839 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp66duydrp/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp66duydrp/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp66duydrp/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp66duydrp/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 183.96it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7897897958755493 │ +│ covertype_val_f1-score │ 0.7849836945533752 │ +│ covertype_val_loss │ 0.5640363097190857 │ +│ covertype_val_precision │ 0.783983588218689 │ +│ covertype_val_recall │ 0.7897897958755493 │ +│ covertype_val_score │ 0.7897897958755493 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0005000000237487257 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 329.49it/s +Validation metrics: [{'covertype_val_loss': 0.5640363097190857, 'lr': 0.0005000000237487257, 'covertype_val_accuracy': 0.7897897958755493, 'covertype_val_precision': 0.783983588218689, 'covertype_val_recall': 0.7897897958755493, 'covertype_val_f1-score': 0.7849836945533752, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7897897958755493}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 24 samples (1.20%) + Class 1: 1052 samples (52.60%) + Class 2: 680 samples (34.00%) + Class 3: 62 samples (3.10%) + Class 4: 139 samples (6.95%) + Class 5: 40 samples (2.00%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7825000286102295 │ +│ covertype_test_f1-score │ 0.7793118357658386 │ +│ covertype_test_loss │ 0.5535460710525513 │ +│ covertype_test_precision │ 0.7801183462142944 │ +│ covertype_test_recall │ 0.7825000286102295 │ +│ covertype_test_score │ 0.7825000286102295 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0005000000819563866 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 185.07it/s +Test metrics: [{'covertype_test_loss': 0.5535460710525513, 'lr': 0.0005000000819563866, 'covertype_test_accuracy': 0.7825000286102295, 'covertype_test_precision': 0.7801183462142944, 'covertype_test_recall': 0.7825000286102295, 'covertype_test_f1-score': 0.7793118357658386, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7825000286102295}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 22 samples (1.16%) + Class 1: 1028 samples (54.11%) + Class 2: 676 samples (35.58%) + Class 3: 62 samples (3.26%) + Class 4: 79 samples (4.16%) + Class 5: 33 samples (1.74%) +============================================================ +covertype_test_accuracy 5% removed: 0.7863 +covertype_test_precision 5% removed: 0.7833 +covertype_test_recall 5% removed: 0.7863 +covertype_test_f1-score 5% removed: 0.7839 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 21 samples (1.17%) + Class 1: 990 samples (55.00%) + Class 2: 662 samples (36.78%) + Class 3: 60 samples (3.33%) + Class 4: 43 samples (2.39%) + Class 5: 24 samples (1.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.7928 +covertype_test_precision 10% removed: 0.7904 +covertype_test_recall 10% removed: 0.7928 +covertype_test_f1-score 10% removed: 0.7910 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (1.06%) + Class 1: 882 samples (55.12%) + Class 2: 600 samples (37.50%) + Class 3: 57 samples (3.56%) + Class 4: 27 samples (1.69%) + Class 5: 17 samples (1.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7975 +covertype_test_precision 20% removed: 0.7977 +covertype_test_recall 20% removed: 0.7975 +covertype_test_f1-score 20% removed: 0.7967 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 562 samples (56.20%) + Class 2: 372 samples (37.20%) + Class 3: 49 samples (4.90%) + Class 4: 5 samples (0.50%) + Class 5: 4 samples (0.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.8040 +covertype_test_precision 50% removed: 0.8056 +covertype_test_recall 50% removed: 0.8040 +covertype_test_f1-score 50% removed: 0.8023 +Wrote results for resnet on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/resnet_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7761±0.0087 5%: 0.7807±0.0083 10%: 0.7861±0.0098 20%: 0.7900±0.0090 50%: 0.7898±0.0116 +covertype_test_precision 0%: 0.7765±0.0077 5%: 0.7817±0.0068 10%: 0.7864±0.0081 20%: 0.7911±0.0086 50%: 0.7900±0.0128 +covertype_test_recall 0%: 0.7761±0.0087 5%: 0.7807±0.0083 10%: 0.7861±0.0098 20%: 0.7900±0.0090 50%: 0.7898±0.0116 +covertype_test_f1-score 0%: 0.7748±0.0081 5%: 0.7798±0.0077 10%: 0.7850±0.0094 20%: 0.7896±0.0089 50%: 0.7885±0.0116 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'autoint'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpy43knpp8/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpy43knpp8/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpy43knpp8/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpy43knpp8/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 99.16it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7507507801055908 │ +│ covertype_val_f1-score │ 0.7472994923591614 │ +│ covertype_val_loss │ 0.607459306716919 │ +│ covertype_val_precision │ 0.7497401833534241 │ +│ covertype_val_recall │ 0.7507507801055908 │ +│ covertype_val_score │ 0.7507507801055908 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 266.16it/s +Validation metrics: [{'covertype_val_loss': 0.607459306716919, 'lr': 0.0, 'covertype_val_accuracy': 0.7507507801055908, 'covertype_val_precision': 0.7497401833534241, 'covertype_val_recall': 0.7507507801055908, 'covertype_val_f1-score': 0.7472994923591614, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7507507801055908}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 979 samples (48.95%) + Class 2: 745 samples (37.25%) + Class 3: 59 samples (2.95%) + Class 4: 132 samples (6.60%) + Class 5: 65 samples (3.25%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7559999823570251 │ +│ covertype_test_f1-score │ 0.7550649642944336 │ +│ covertype_test_loss │ 0.611321210861206 │ +│ covertype_test_precision │ 0.7572373747825623 │ +│ covertype_test_recall │ 0.7559999823570251 │ +│ covertype_test_score │ 0.7559999823570251 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 242.72it/s +Test metrics: [{'covertype_test_loss': 0.611321210861206, 'lr': 0.0, 'covertype_test_accuracy': 0.7559999823570251, 'covertype_test_precision': 0.7572373747825623, 'covertype_test_recall': 0.7559999823570251, 'covertype_test_f1-score': 0.7550649642944336, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7559999823570251}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 962 samples (50.63%) + Class 2: 740 samples (38.95%) + Class 3: 59 samples (3.11%) + Class 4: 64 samples (3.37%) + Class 5: 59 samples (3.11%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7637 +covertype_test_precision 5% removed: 0.7652 +covertype_test_recall 5% removed: 0.7637 +covertype_test_f1-score 5% removed: 0.7627 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 14 samples (0.78%) + Class 1: 932 samples (51.78%) + Class 2: 725 samples (40.28%) + Class 3: 57 samples (3.17%) + Class 4: 41 samples (2.28%) + Class 5: 30 samples (1.67%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7689 +covertype_test_precision 10% removed: 0.7698 +covertype_test_recall 10% removed: 0.7689 +covertype_test_f1-score 10% removed: 0.7676 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 829 samples (51.81%) + Class 2: 660 samples (41.25%) + Class 3: 54 samples (3.38%) + Class 4: 27 samples (1.69%) + Class 5: 16 samples (1.00%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7763 +covertype_test_precision 20% removed: 0.7763 +covertype_test_recall 20% removed: 0.7763 +covertype_test_f1-score 20% removed: 0.7753 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 525 samples (52.50%) + Class 2: 413 samples (41.30%) + Class 3: 48 samples (4.80%) + Class 4: 3 samples (0.30%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7760 +covertype_test_precision 50% removed: 0.7746 +covertype_test_recall 50% removed: 0.7760 +covertype_test_f1-score 50% removed: 0.7747 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpy43knpp8/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpy43knpp8/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpy43knpp8/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpy43knpp8/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 37/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 93.41it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7317317128181458 │ +│ covertype_val_f1-score │ 0.7304118275642395 │ +│ covertype_val_loss │ 0.6281678676605225 │ +│ covertype_val_precision │ 0.735135018825531 │ +│ covertype_val_recall │ 0.7317317128181458 │ +│ covertype_val_score │ 0.7317317128181458 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.00013551570009440184 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 150.71it/s +Validation metrics: [{'covertype_val_loss': 0.6281678676605225, 'lr': 0.00013551570009440184, 'covertype_val_accuracy': 0.7317317128181458, 'covertype_val_precision': 0.735135018825531, 'covertype_val_recall': 0.7317317128181458, 'covertype_val_f1-score': 0.7304118275642395, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7317317128181458}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 957 samples (47.85%) + Class 2: 774 samples (38.70%) + Class 3: 62 samples (3.10%) + Class 4: 125 samples (6.25%) + Class 5: 60 samples (3.00%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7630000114440918 │ +│ covertype_test_f1-score │ 0.761768102645874 │ +│ covertype_test_loss │ 0.5934767723083496 │ +│ covertype_test_precision │ 0.7640842199325562 │ +│ covertype_test_recall │ 0.7630000114440918 │ +│ covertype_test_score │ 0.7630000114440918 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0001355156855424866 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 243.73it/s +Test metrics: [{'covertype_test_loss': 0.5934767723083496, 'lr': 0.0001355156855424866, 'covertype_test_accuracy': 0.7630000114440918, 'covertype_test_precision': 0.7640842199325562, 'covertype_test_recall': 0.7630000114440918, 'covertype_test_f1-score': 0.761768102645874, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7630000114440918}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 933 samples (49.11%) + Class 2: 770 samples (40.53%) + Class 3: 62 samples (3.26%) + Class 4: 64 samples (3.37%) + Class 5: 53 samples (2.79%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7668 +covertype_test_precision 5% removed: 0.7699 +covertype_test_recall 5% removed: 0.7668 +covertype_test_f1-score 5% removed: 0.7662 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 900 samples (50.00%) + Class 2: 757 samples (42.06%) + Class 3: 60 samples (3.33%) + Class 4: 38 samples (2.11%) + Class 5: 27 samples (1.50%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7694 +covertype_test_precision 10% removed: 0.7721 +covertype_test_recall 10% removed: 0.7694 +covertype_test_f1-score 10% removed: 0.7686 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 799 samples (49.94%) + Class 2: 690 samples (43.12%) + Class 3: 57 samples (3.56%) + Class 4: 25 samples (1.56%) + Class 5: 14 samples (0.88%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7738 +covertype_test_precision 20% removed: 0.7760 +covertype_test_recall 20% removed: 0.7738 +covertype_test_f1-score 20% removed: 0.7732 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 507 samples (50.70%) + Class 2: 432 samples (43.20%) + Class 3: 49 samples (4.90%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7820 +covertype_test_precision 50% removed: 0.7802 +covertype_test_recall 50% removed: 0.7820 +covertype_test_f1-score 50% removed: 0.7799 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpy43knpp8/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpy43knpp8/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpy43knpp8/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpy43knpp8/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 89.62it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7487487196922302 │ +│ covertype_val_f1-score │ 0.7440986633300781 │ +│ covertype_val_loss │ 0.5932113528251648 │ +│ covertype_val_precision │ 0.7442794442176819 │ +│ covertype_val_recall │ 0.7487487196922302 │ +│ covertype_val_score │ 0.7487487196922302 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 276.51it/s +Validation metrics: [{'covertype_val_loss': 0.5932113528251648, 'lr': 0.0, 'covertype_val_accuracy': 0.7487487196922302, 'covertype_val_precision': 0.7442794442176819, 'covertype_val_recall': 0.7487487196922302, 'covertype_val_f1-score': 0.7440986633300781, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7487487196922302}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 1002 samples (50.10%) + Class 2: 735 samples (36.75%) + Class 3: 57 samples (2.85%) + Class 4: 126 samples (6.30%) + Class 5: 62 samples (3.10%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7674999833106995 │ +│ covertype_test_f1-score │ 0.7661298513412476 │ +│ covertype_test_loss │ 0.5753231048583984 │ +│ covertype_test_precision │ 0.7683643102645874 │ +│ covertype_test_recall │ 0.7674999833106995 │ +│ covertype_test_score │ 0.7674999833106995 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 241.06it/s +Test metrics: [{'covertype_test_loss': 0.5753231048583984, 'lr': 0.0, 'covertype_test_accuracy': 0.7674999833106995, 'covertype_test_precision': 0.7683643102645874, 'covertype_test_recall': 0.7674999833106995, 'covertype_test_f1-score': 0.7661298513412476, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7674999833106995}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 979 samples (51.53%) + Class 2: 731 samples (38.47%) + Class 3: 57 samples (3.00%) + Class 4: 63 samples (3.32%) + Class 5: 56 samples (2.95%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7716 +covertype_test_precision 5% removed: 0.7736 +covertype_test_recall 5% removed: 0.7716 +covertype_test_f1-score 5% removed: 0.7705 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 949 samples (52.72%) + Class 2: 715 samples (39.72%) + Class 3: 55 samples (3.06%) + Class 4: 38 samples (2.11%) + Class 5: 29 samples (1.61%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7789 +covertype_test_precision 10% removed: 0.7803 +covertype_test_recall 10% removed: 0.7789 +covertype_test_f1-score 10% removed: 0.7774 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 841 samples (52.56%) + Class 2: 653 samples (40.81%) + Class 3: 52 samples (3.25%) + Class 4: 26 samples (1.62%) + Class 5: 16 samples (1.00%) +============================================================ +covertype_test_accuracy 20% removed: 0.7869 +covertype_test_precision 20% removed: 0.7873 +covertype_test_recall 20% removed: 0.7869 +covertype_test_f1-score 20% removed: 0.7857 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 531 samples (53.10%) + Class 2: 410 samples (41.00%) + Class 3: 45 samples (4.50%) + Class 4: 5 samples (0.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7870 +covertype_test_precision 50% removed: 0.7851 +covertype_test_recall 50% removed: 0.7870 +covertype_test_f1-score 50% removed: 0.7854 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpy43knpp8/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpy43knpp8/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpy43knpp8/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpy43knpp8/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 98.66it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7447447180747986 │ +│ covertype_val_f1-score │ 0.740561842918396 │ +│ covertype_val_loss │ 0.6168127059936523 │ +│ covertype_val_precision │ 0.7413716316223145 │ +│ covertype_val_recall │ 0.7447447180747986 │ +│ covertype_val_score │ 0.7447447180747986 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 300.68it/s +Validation metrics: [{'covertype_val_loss': 0.6168127059936523, 'lr': 0.0, 'covertype_val_accuracy': 0.7447447180747986, 'covertype_val_precision': 0.7413716316223145, 'covertype_val_recall': 0.7447447180747986, 'covertype_val_f1-score': 0.740561842918396, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7447447180747986}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 9 samples (0.45%) + Class 1: 1013 samples (50.65%) + Class 2: 732 samples (36.60%) + Class 3: 56 samples (2.80%) + Class 4: 123 samples (6.15%) + Class 5: 62 samples (3.10%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7720000147819519 │ +│ covertype_test_f1-score │ 0.7695575952529907 │ +│ covertype_test_loss │ 0.5831734538078308 │ +│ covertype_test_precision │ 0.7723827958106995 │ +│ covertype_test_recall │ 0.7720000147819519 │ +│ covertype_test_score │ 0.7720000147819519 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 240.46it/s +Test metrics: [{'covertype_test_loss': 0.5831734538078308, 'lr': 0.0, 'covertype_test_accuracy': 0.7720000147819519, 'covertype_test_precision': 0.7723827958106995, 'covertype_test_recall': 0.7720000147819519, 'covertype_test_f1-score': 0.7695575952529907, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7720000147819519}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 8 samples (0.42%) + Class 1: 990 samples (52.11%) + Class 2: 728 samples (38.32%) + Class 3: 56 samples (2.95%) + Class 4: 61 samples (3.21%) + Class 5: 55 samples (2.89%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7758 +covertype_test_precision 5% removed: 0.7769 +covertype_test_recall 5% removed: 0.7758 +covertype_test_f1-score 5% removed: 0.7735 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 8 samples (0.44%) + Class 1: 960 samples (53.33%) + Class 2: 712 samples (39.56%) + Class 3: 54 samples (3.00%) + Class 4: 36 samples (2.00%) + Class 5: 28 samples (1.56%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7867 +covertype_test_precision 10% removed: 0.7870 +covertype_test_recall 10% removed: 0.7867 +covertype_test_f1-score 10% removed: 0.7839 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 6 samples (0.38%) + Class 1: 855 samples (53.44%) + Class 2: 648 samples (40.50%) + Class 3: 51 samples (3.19%) + Class 4: 24 samples (1.50%) + Class 5: 15 samples (0.94%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7931 +covertype_test_precision 20% removed: 0.7948 +covertype_test_recall 20% removed: 0.7931 +covertype_test_f1-score 20% removed: 0.7904 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 546 samples (54.60%) + Class 2: 397 samples (39.70%) + Class 3: 44 samples (4.40%) + Class 4: 6 samples (0.60%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7880 +covertype_test_precision 50% removed: 0.7881 +covertype_test_recall 50% removed: 0.7880 +covertype_test_f1-score 50% removed: 0.7857 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpy43knpp8/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpy43knpp8/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpy43knpp8/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpy43knpp8/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 96.11it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7617617845535278 │ +│ covertype_val_f1-score │ 0.7594560384750366 │ +│ covertype_val_loss │ 0.5911195874214172 │ +│ covertype_val_precision │ 0.7627468705177307 │ +│ covertype_val_recall │ 0.7617617845535278 │ +│ covertype_val_score │ 0.7617617845535278 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.866357686405536e-07 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 171.18it/s +Validation metrics: [{'covertype_val_loss': 0.5911195874214172, 'lr': 9.866357686405536e-07, 'covertype_val_accuracy': 0.7617617845535278, 'covertype_val_precision': 0.7627468705177307, 'covertype_val_recall': 0.7617617845535278, 'covertype_val_f1-score': 0.7594560384750366, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7617617845535278}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 13 samples (0.65%) + Class 1: 1004 samples (50.20%) + Class 2: 735 samples (36.75%) + Class 3: 57 samples (2.85%) + Class 4: 132 samples (6.60%) + Class 5: 55 samples (2.75%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7620000243186951 │ +│ covertype_test_f1-score │ 0.7596310973167419 │ +│ covertype_test_loss │ 0.5834123492240906 │ +│ covertype_test_precision │ 0.7612149119377136 │ +│ covertype_test_recall │ 0.7620000243186951 │ +│ covertype_test_score │ 0.7620000243186951 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.866358823273913e-07 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 168.81it/s +Test metrics: [{'covertype_test_loss': 0.5834123492240906, 'lr': 9.866358823273913e-07, 'covertype_test_accuracy': 0.7620000243186951, 'covertype_test_precision': 0.7612149119377136, 'covertype_test_recall': 0.7620000243186951, 'covertype_test_f1-score': 0.7596310973167419, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7620000243186951}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 12 samples (0.63%) + Class 1: 983 samples (51.74%) + Class 2: 731 samples (38.47%) + Class 3: 57 samples (3.00%) + Class 4: 66 samples (3.47%) + Class 5: 50 samples (2.63%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7653 +covertype_test_precision 5% removed: 0.7652 +covertype_test_recall 5% removed: 0.7653 +covertype_test_f1-score 5% removed: 0.7634 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 11 samples (0.61%) + Class 1: 950 samples (52.78%) + Class 2: 717 samples (39.83%) + Class 3: 55 samples (3.06%) + Class 4: 38 samples (2.11%) + Class 5: 28 samples (1.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7683 +covertype_test_precision 10% removed: 0.7687 +covertype_test_recall 10% removed: 0.7683 +covertype_test_f1-score 10% removed: 0.7662 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 835 samples (52.19%) + Class 2: 660 samples (41.25%) + Class 3: 53 samples (3.31%) + Class 4: 26 samples (1.62%) + Class 5: 14 samples (0.88%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7694 +covertype_test_precision 20% removed: 0.7691 +covertype_test_recall 20% removed: 0.7694 +covertype_test_f1-score 20% removed: 0.7679 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 525 samples (52.50%) + Class 2: 416 samples (41.60%) + Class 3: 47 samples (4.70%) + Class 4: 4 samples (0.40%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7680 +covertype_test_precision 50% removed: 0.7671 +covertype_test_recall 50% removed: 0.7680 +covertype_test_f1-score 50% removed: 0.7662 +Wrote results for autoint on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/autoint_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7641±0.0075 5%: 0.7686±0.0062 10%: 0.7744±0.0101 20%: 0.7799±0.0122 50%: 0.7802±0.0103 +covertype_test_precision 0%: 0.7647±0.0074 5%: 0.7702±0.0064 10%: 0.7756±0.0097 20%: 0.7807±0.0127 50%: 0.7790±0.0104 +covertype_test_recall 0%: 0.7641±0.0075 5%: 0.7686±0.0062 10%: 0.7744±0.0101 20%: 0.7799±0.0122 50%: 0.7802±0.0103 +covertype_test_f1-score 0%: 0.7624±0.0070 5%: 0.7672±0.0058 10%: 0.7727±0.0095 20%: 0.7785±0.0115 50%: 0.7784±0.0101 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'fttransformer'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp5uro2_s3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp5uro2_s3/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp5uro2_s3/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp5uro2_s3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 77.13it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7307307124137878 │ +│ covertype_val_f1-score │ 0.7266823649406433 │ +│ covertype_val_loss │ 0.6124319434165955 │ +│ covertype_val_precision │ 0.7361064553260803 │ +│ covertype_val_recall │ 0.7307307124137878 │ +│ covertype_val_score │ 0.7307307124137878 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 203.22it/s +Validation metrics: [{'covertype_val_loss': 0.6124319434165955, 'lr': 0.0, 'covertype_val_accuracy': 0.7307307124137878, 'covertype_val_precision': 0.7361064553260803, 'covertype_val_recall': 0.7307307124137878, 'covertype_val_f1-score': 0.7266823649406433, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7307307124137878}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 5 samples (0.25%) + Class 1: 1002 samples (50.10%) + Class 2: 739 samples (36.95%) + Class 3: 58 samples (2.90%) + Class 4: 145 samples (7.25%) + Class 5: 46 samples (2.30%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7394999861717224 │ +│ covertype_test_f1-score │ 0.7355998754501343 │ +│ covertype_test_loss │ 0.5955405831336975 │ +│ covertype_test_precision │ 0.7443932890892029 │ +│ covertype_test_recall │ 0.7394999861717224 │ +│ covertype_test_score │ 0.7394999861717224 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 132.50it/s +Test metrics: [{'covertype_test_loss': 0.5955405831336975, 'lr': 0.0, 'covertype_test_accuracy': 0.7394999861717224, 'covertype_test_precision': 0.7443932890892029, 'covertype_test_recall': 0.7394999861717224, 'covertype_test_f1-score': 0.7355998754501343, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7394999861717224}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 5 samples (0.26%) + Class 1: 982 samples (51.68%) + Class 2: 735 samples (38.68%) + Class 3: 58 samples (3.05%) + Class 4: 74 samples (3.89%) + Class 5: 45 samples (2.37%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7458 +covertype_test_precision 5% removed: 0.7521 +covertype_test_recall 5% removed: 0.7458 +covertype_test_f1-score 5% removed: 0.7432 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 5 samples (0.28%) + Class 1: 953 samples (52.94%) + Class 2: 720 samples (40.00%) + Class 3: 56 samples (3.11%) + Class 4: 40 samples (2.22%) + Class 5: 25 samples (1.39%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7517 +covertype_test_precision 10% removed: 0.7575 +covertype_test_recall 10% removed: 0.7517 +covertype_test_f1-score 10% removed: 0.7486 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 5 samples (0.31%) + Class 1: 845 samples (52.81%) + Class 2: 658 samples (41.12%) + Class 3: 53 samples (3.31%) + Class 4: 28 samples (1.75%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7588 +covertype_test_precision 20% removed: 0.7631 +covertype_test_recall 20% removed: 0.7588 +covertype_test_f1-score 20% removed: 0.7562 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 537 samples (53.70%) + Class 2: 407 samples (40.70%) + Class 3: 46 samples (4.60%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7660 +covertype_test_precision 50% removed: 0.7664 +covertype_test_recall 50% removed: 0.7660 +covertype_test_f1-score 50% removed: 0.7631 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp5uro2_s3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp5uro2_s3/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp5uro2_s3/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp5uro2_s3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 78.70it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7367367148399353 │ +│ covertype_val_f1-score │ 0.7327419519424438 │ +│ covertype_val_loss │ 0.5972707867622375 │ +│ covertype_val_precision │ 0.7370857000350952 │ +│ covertype_val_recall │ 0.7367367148399353 │ +│ covertype_val_score │ 0.7367367148399353 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 180.72it/s +Validation metrics: [{'covertype_val_loss': 0.5972707867622375, 'lr': 0.0, 'covertype_val_accuracy': 0.7367367148399353, 'covertype_val_precision': 0.7370857000350952, 'covertype_val_recall': 0.7367367148399353, 'covertype_val_f1-score': 0.7327419519424438, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7367367148399353}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 13 samples (0.65%) + Class 1: 958 samples (47.90%) + Class 2: 783 samples (39.15%) + Class 3: 56 samples (2.80%) + Class 4: 138 samples (6.90%) + Class 5: 47 samples (2.35%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7369999885559082 │ +│ covertype_test_f1-score │ 0.7351956963539124 │ +│ covertype_test_loss │ 0.595283567905426 │ +│ covertype_test_precision │ 0.7399511933326721 │ +│ covertype_test_recall │ 0.7369999885559082 │ +│ covertype_test_score │ 0.7369999885559082 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 247.71it/s +Test metrics: [{'covertype_test_loss': 0.595283567905426, 'lr': 0.0, 'covertype_test_accuracy': 0.7369999885559082, 'covertype_test_precision': 0.7399511933326721, 'covertype_test_recall': 0.7369999885559082, 'covertype_test_f1-score': 0.7351956963539124, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7369999885559082}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 936 samples (49.26%) + Class 2: 779 samples (41.00%) + Class 3: 56 samples (2.95%) + Class 4: 70 samples (3.68%) + Class 5: 45 samples (2.37%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7426 +covertype_test_precision 5% removed: 0.7470 +covertype_test_recall 5% removed: 0.7426 +covertype_test_f1-score 5% removed: 0.7418 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 906 samples (50.33%) + Class 2: 763 samples (42.39%) + Class 3: 54 samples (3.00%) + Class 4: 46 samples (2.56%) + Class 5: 17 samples (0.94%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7472 +covertype_test_precision 10% removed: 0.7499 +covertype_test_recall 10% removed: 0.7472 +covertype_test_f1-score 10% removed: 0.7456 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 803 samples (50.19%) + Class 2: 694 samples (43.38%) + Class 3: 51 samples (3.19%) + Class 4: 29 samples (1.81%) + Class 5: 9 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7531 +covertype_test_precision 20% removed: 0.7558 +covertype_test_recall 20% removed: 0.7531 +covertype_test_f1-score 20% removed: 0.7525 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 512 samples (51.20%) + Class 2: 431 samples (43.10%) + Class 3: 44 samples (4.40%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7610 +covertype_test_precision 50% removed: 0.7590 +covertype_test_recall 50% removed: 0.7610 +covertype_test_f1-score 50% removed: 0.7591 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp5uro2_s3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp5uro2_s3/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp5uro2_s3/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp5uro2_s3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 70.62it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7497497200965881 │ +│ covertype_val_f1-score │ 0.7441829442977905 │ +│ covertype_val_loss │ 0.5779473781585693 │ +│ covertype_val_precision │ 0.745046079158783 │ +│ covertype_val_recall │ 0.7497497200965881 │ +│ covertype_val_score │ 0.7497497200965881 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 91.98it/s +Validation metrics: [{'covertype_val_loss': 0.5779473781585693, 'lr': 0.0, 'covertype_val_accuracy': 0.7497497200965881, 'covertype_val_precision': 0.745046079158783, 'covertype_val_recall': 0.7497497200965881, 'covertype_val_f1-score': 0.7441829442977905, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7497497200965881}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 978 samples (48.90%) + Class 2: 755 samples (37.75%) + Class 3: 61 samples (3.05%) + Class 4: 138 samples (6.90%) + Class 5: 49 samples (2.45%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7524999976158142 │ +│ covertype_test_f1-score │ 0.7511112689971924 │ +│ covertype_test_loss │ 0.5682770013809204 │ +│ covertype_test_precision │ 0.7549177408218384 │ +│ covertype_test_recall │ 0.7524999976158142 │ +│ covertype_test_score │ 0.7524999976158142 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 172.83it/s +Test metrics: [{'covertype_test_loss': 0.5682770013809204, 'lr': 0.0, 'covertype_test_accuracy': 0.7524999976158142, 'covertype_test_precision': 0.7549177408218384, 'covertype_test_recall': 0.7524999976158142, 'covertype_test_f1-score': 0.7511112689971924, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7524999976158142}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 959 samples (50.47%) + Class 2: 751 samples (39.53%) + Class 3: 61 samples (3.21%) + Class 4: 68 samples (3.58%) + Class 5: 47 samples (2.47%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7574 +covertype_test_precision 5% removed: 0.7603 +covertype_test_recall 5% removed: 0.7574 +covertype_test_f1-score 5% removed: 0.7565 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 929 samples (51.61%) + Class 2: 735 samples (40.83%) + Class 3: 60 samples (3.33%) + Class 4: 42 samples (2.33%) + Class 5: 20 samples (1.11%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7628 +covertype_test_precision 10% removed: 0.7643 +covertype_test_recall 10% removed: 0.7628 +covertype_test_f1-score 10% removed: 0.7612 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 813 samples (50.81%) + Class 2: 679 samples (42.44%) + Class 3: 58 samples (3.62%) + Class 4: 29 samples (1.81%) + Class 5: 8 samples (0.50%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7656 +covertype_test_precision 20% removed: 0.7679 +covertype_test_recall 20% removed: 0.7656 +covertype_test_f1-score 20% removed: 0.7649 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 508 samples (50.80%) + Class 2: 429 samples (42.90%) + Class 3: 50 samples (5.00%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7630 +covertype_test_precision 50% removed: 0.7626 +covertype_test_recall 50% removed: 0.7630 +covertype_test_f1-score 50% removed: 0.7617 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp5uro2_s3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp5uro2_s3/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp5uro2_s3/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp5uro2_s3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 79.92it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7417417168617249 │ +│ covertype_val_f1-score │ 0.7379695177078247 │ +│ covertype_val_loss │ 0.6038905382156372 │ +│ covertype_val_precision │ 0.7397958636283875 │ +│ covertype_val_recall │ 0.7417417168617249 │ +│ covertype_val_score │ 0.7417417168617249 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 209.59it/s +Validation metrics: [{'covertype_val_loss': 0.6038905382156372, 'lr': 0.0, 'covertype_val_accuracy': 0.7417417168617249, 'covertype_val_precision': 0.7397958636283875, 'covertype_val_recall': 0.7417417168617249, 'covertype_val_f1-score': 0.7379695177078247, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7417417168617249}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 6 samples (0.30%) + Class 1: 1047 samples (52.35%) + Class 2: 696 samples (34.80%) + Class 3: 54 samples (2.70%) + Class 4: 139 samples (6.95%) + Class 5: 56 samples (2.80%) + Class 6: 2 samples (0.10%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7540000081062317 │ +│ covertype_test_f1-score │ 0.7501764893531799 │ +│ covertype_test_loss │ 0.5737650394439697 │ +│ covertype_test_precision │ 0.7573488354682922 │ +│ covertype_test_recall │ 0.7540000081062317 │ +│ covertype_test_score │ 0.7540000081062317 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 174.06it/s +Test metrics: [{'covertype_test_loss': 0.5737650394439697, 'lr': 0.0, 'covertype_test_accuracy': 0.7540000081062317, 'covertype_test_precision': 0.7573488354682922, 'covertype_test_recall': 0.7540000081062317, 'covertype_test_f1-score': 0.7501764893531799, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7540000081062317}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 5 samples (0.26%) + Class 1: 1026 samples (54.00%) + Class 2: 692 samples (36.42%) + Class 3: 54 samples (2.84%) + Class 4: 67 samples (3.53%) + Class 5: 55 samples (2.89%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7605 +covertype_test_precision 5% removed: 0.7638 +covertype_test_recall 5% removed: 0.7605 +covertype_test_f1-score 5% removed: 0.7572 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 5 samples (0.28%) + Class 1: 998 samples (55.44%) + Class 2: 677 samples (37.61%) + Class 3: 52 samples (2.89%) + Class 4: 41 samples (2.28%) + Class 5: 26 samples (1.44%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7678 +covertype_test_precision 10% removed: 0.7699 +covertype_test_recall 10% removed: 0.7678 +covertype_test_f1-score 10% removed: 0.7637 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 4 samples (0.25%) + Class 1: 889 samples (55.56%) + Class 2: 620 samples (38.75%) + Class 3: 49 samples (3.06%) + Class 4: 28 samples (1.75%) + Class 5: 9 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7744 +covertype_test_precision 20% removed: 0.7774 +covertype_test_recall 20% removed: 0.7744 +covertype_test_f1-score 20% removed: 0.7703 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 557 samples (55.70%) + Class 2: 390 samples (39.00%) + Class 3: 43 samples (4.30%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7800 +covertype_test_precision 50% removed: 0.7808 +covertype_test_recall 50% removed: 0.7800 +covertype_test_f1-score 50% removed: 0.7765 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp5uro2_s3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp5uro2_s3/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp5uro2_s3/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp5uro2_s3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 79.30it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7497497200965881 │ +│ covertype_val_f1-score │ 0.7442154884338379 │ +│ covertype_val_loss │ 0.5761695504188538 │ +│ covertype_val_precision │ 0.7481011748313904 │ +│ covertype_val_recall │ 0.7497497200965881 │ +│ covertype_val_score │ 0.7497497200965881 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 211.69it/s +Validation metrics: [{'covertype_val_loss': 0.5761695504188538, 'lr': 0.0, 'covertype_val_accuracy': 0.7497497200965881, 'covertype_val_precision': 0.7481011748313904, 'covertype_val_recall': 0.7497497200965881, 'covertype_val_f1-score': 0.7442154884338379, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7497497200965881}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 6 samples (0.30%) + Class 1: 1033 samples (51.65%) + Class 2: 709 samples (35.45%) + Class 3: 58 samples (2.90%) + Class 4: 142 samples (7.10%) + Class 5: 48 samples (2.40%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7549999952316284 │ +│ covertype_test_f1-score │ 0.7505362629890442 │ +│ covertype_test_loss │ 0.5735441446304321 │ +│ covertype_test_precision │ 0.7544926404953003 │ +│ covertype_test_recall │ 0.7549999952316284 │ +│ covertype_test_score │ 0.7549999952316284 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 122.20it/s +Test metrics: [{'covertype_test_loss': 0.5735441446304321, 'lr': 0.0, 'covertype_test_accuracy': 0.7549999952316284, 'covertype_test_precision': 0.7544926404953003, 'covertype_test_recall': 0.7549999952316284, 'covertype_test_f1-score': 0.7505362629890442, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7549999952316284}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 6 samples (0.32%) + Class 1: 1013 samples (53.32%) + Class 2: 705 samples (37.11%) + Class 3: 58 samples (3.05%) + Class 4: 72 samples (3.79%) + Class 5: 45 samples (2.37%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7632 +covertype_test_precision 5% removed: 0.7634 +covertype_test_recall 5% removed: 0.7632 +covertype_test_f1-score 5% removed: 0.7596 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 6 samples (0.33%) + Class 1: 981 samples (54.50%) + Class 2: 691 samples (38.39%) + Class 3: 56 samples (3.11%) + Class 4: 46 samples (2.56%) + Class 5: 19 samples (1.06%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7706 +covertype_test_precision 10% removed: 0.7698 +covertype_test_recall 10% removed: 0.7706 +covertype_test_f1-score 10% removed: 0.7664 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 5 samples (0.31%) + Class 1: 870 samples (54.37%) + Class 2: 630 samples (39.38%) + Class 3: 54 samples (3.38%) + Class 4: 32 samples (2.00%) + Class 5: 8 samples (0.50%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7763 +covertype_test_precision 20% removed: 0.7769 +covertype_test_recall 20% removed: 0.7763 +covertype_test_f1-score 20% removed: 0.7727 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 557 samples (55.70%) + Class 2: 385 samples (38.50%) + Class 3: 47 samples (4.70%) + Class 4: 6 samples (0.60%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7880 +covertype_test_precision 50% removed: 0.7893 +covertype_test_recall 50% removed: 0.7880 +covertype_test_f1-score 50% removed: 0.7847 +Wrote results for fttransformer on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/fttransformer_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7476±0.0107 5%: 0.7539±0.0114 10%: 0.7600±0.0126 20%: 0.7656±0.0123 50%: 0.7716±0.0147 +covertype_test_precision 0%: 0.7502±0.0094 5%: 0.7573±0.0092 10%: 0.7623±0.0106 20%: 0.7682±0.0115 50%: 0.7716±0.0160 +covertype_test_recall 0%: 0.7476±0.0107 5%: 0.7539±0.0114 10%: 0.7600±0.0126 20%: 0.7656±0.0123 50%: 0.7716±0.0147 +covertype_test_f1-score 0%: 0.7445±0.0104 5%: 0.7517±0.0105 10%: 0.7571±0.0116 20%: 0.7633±0.0109 50%: 0.7690±0.0137 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'xgboost'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=xgboost --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy --use_split_assignments=True --exp_train_total_epochs=1 --split_config_file=/tmp/tmpn5r3z82n/split_data/split_config.json --sigma_aggregation=mean --n_estimators=100 --max_depth=3 --learning_rate=0.1 --subsample=1.0 --colsample_bytree=1.0 --reg_alpha=0.0 --reg_lambda=1.0 --n_jobs=-1 --random_state=42 --encoder_type=linear_flatten --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpn5r3z82n/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 64 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ -1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.0001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ xgboost │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpn5r3z82n/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpn5r3z82n/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 1e-05 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: xgboost + +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +XGBoostLightning [1, 3456] [1, 3456] -- -- -- +===================================================================================================================================================================== +Total params: 0 +Trainable params: 0 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 0 +===================================================================================================================================================================== +Input size (MB): 0.01 +Forward/backward pass size (MB): 0.00 +Params size (MB): 0.00 +Estimated Total Size (MB): 0.01 +===================================================================================================================================================================== +GPU available: True (cuda), used: False +TPU available: False, using: 0 TPU cores +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/setup.py:175: GPU available but not used. You can set it by doing `Trainer(accelerator='gpu')`. +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1)` was configured so 1 batch per epoch will be used. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/core/optimizer.py:183: `LightningModule.configure_optimizers` returned `None`, this fit will run with no optimizer +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Identity │ 0 │ train │ 0 │ +│ 2 │ encoder │ Identity │ 0 │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 0 +Non-trainable params: 0 +Total params: 0 +Total estimated model params size (MB): 0.000 +Modules in train mode: 3 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=1` reached. +Epoch 0/0 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 1/1 0:00:00 • 0:00:00 0.00it/s +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7737737894058228 │ +│ covertype_val_f1-score │ 0.7702276706695557 │ +│ covertype_val_loss │ 0.6492612957954407 │ +│ covertype_val_precision │ 0.7694662809371948 │ +│ covertype_val_recall │ 0.7737737894058228 │ +│ covertype_val_score │ 0.7737737894058228 │ +│ covertype_val_support │ 999.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:19 • 0:00:00 0.81it/s +Validation metrics: [{'covertype_val_loss': 0.6492612957954407, 'covertype_val_accuracy': 0.7737737894058228, 'covertype_val_precision': 0.7694662809371948, 'covertype_val_recall': 0.7737737894058228, 'covertype_val_f1-score': 0.7702276706695557, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7737737894058228}] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1009 samples (50.45%) + Class 2: 740 samples (37.00%) + Class 3: 52 samples (2.60%) + Class 4: 133 samples (6.65%) + Class 5: 47 samples (2.35%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.8015000224113464 │ +│ covertype_test_f1-score │ 0.7994515895843506 │ +│ covertype_test_loss │ 0.6249375343322754 │ +│ covertype_test_precision │ 0.8027268052101135 │ +│ covertype_test_recall │ 0.8015000224113464 │ +│ covertype_test_score │ 0.8015000224113464 │ +│ covertype_test_support │ 2000.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 32/32 0:00:42 • 0:00:00 0.67it/s +Test metrics: [{'covertype_test_loss': 0.6249375343322754, 'covertype_test_accuracy': 0.8015000224113464, 'covertype_test_precision': 0.8027268052101135, 'covertype_test_recall': 0.8015000224113464, 'covertype_test_f1-score': 0.7994515895843506, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.8015000224113464}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 995 samples (52.37%) + Class 2: 700 samples (36.84%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 43 samples (2.26%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 987 samples (51.95%) + Class 2: 736 samples (38.74%) + Class 3: 52 samples (2.74%) + Class 4: 69 samples (3.63%) + Class 5: 40 samples (2.11%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.8089 +covertype_test_precision 5% removed: 0.8103 +covertype_test_recall 5% removed: 0.8089 +covertype_test_f1-score 5% removed: 0.8075 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 688 samples (38.22%) + Class 3: 61 samples (3.39%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 954 samples (53.00%) + Class 2: 721 samples (40.06%) + Class 3: 50 samples (2.78%) + Class 4: 39 samples (2.17%) + Class 5: 20 samples (1.11%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.8128 +covertype_test_precision 10% removed: 0.8134 +covertype_test_recall 10% removed: 0.8128 +covertype_test_f1-score 10% removed: 0.8110 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 26 samples (1.62%) + Class 1: 847 samples (52.94%) + Class 2: 632 samples (39.50%) + Class 3: 58 samples (3.62%) + Class 4: 25 samples (1.56%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 843 samples (52.69%) + Class 2: 663 samples (41.44%) + Class 3: 47 samples (2.94%) + Class 4: 24 samples (1.50%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.8181 +covertype_test_precision 20% removed: 0.8202 +covertype_test_recall 20% removed: 0.8181 +covertype_test_f1-score 20% removed: 0.8172 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 515 samples (51.50%) + Class 2: 416 samples (41.60%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 521 samples (52.10%) + Class 2: 425 samples (42.50%) + Class 3: 42 samples (4.20%) + Class 4: 3 samples (0.30%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.8170 +covertype_test_precision 50% removed: 0.8184 +covertype_test_recall 50% removed: 0.8170 +covertype_test_f1-score 50% removed: 0.8160 +Wrote results for xgboost on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/xgboost_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.8015±NA 5%: 0.8089±NA 10%: 0.8128±NA 20%: 0.8181±NA 50%: 0.8170±NA +covertype_test_precision 0%: 0.8027±NA 5%: 0.8103±NA 10%: 0.8134±NA 20%: 0.8202±NA 50%: 0.8184±NA +covertype_test_recall 0%: 0.8015±NA 5%: 0.8089±NA 10%: 0.8128±NA 20%: 0.8181±NA 50%: 0.8170±NA +covertype_test_f1-score 0%: 0.7995±NA 5%: 0.8075±NA 10%: 0.8110±NA 20%: 0.8172±NA 50%: 0.8160±NA +covertype_test_support 0%: 2000.0000±NA 5%: 1900.0000±NA 10%: 1800.0000±NA 20%: 1600.0000±NA 50%: 1000.0000±NA + +================================================================================ +FINAL SUMMARY: Test Accuracy by Model and Uncertainty Filtering Percentage +Dataset: covertype +================================================================================ +Model 0% removed 5% removed 10% removed 20% removed 50% removed +-------------------------------------------------------------------------------- +mlp 0.7099±0.0298 0.7166±0.0312 0.7220±0.0325 0.7265±0.0373 0.7302±0.0470 +dcnv2 0.7850±0.0019 0.7902±0.0024 0.7979±0.0032 0.8035±0.0024 0.8062±0.0057 +resnet 0.7761±0.0087 0.7807±0.0083 0.7861±0.0098 0.7900±0.0090 0.7898±0.0116 +autoint 0.7641±0.0075 0.7686±0.0062 0.7744±0.0101 0.7799±0.0122 0.7802±0.0103 +fttransformer 0.7476±0.0107 0.7539±0.0114 0.7600±0.0126 0.7656±0.0123 0.7716±0.0147 +xgboost 0.8015± NA 0.8089± NA 0.8128± NA 0.8181± NA 0.8170± NA +================================================================================ + +Downstream pipeline complete. Results under /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/launchers/hessian/current/launch_hessian_wjepa_covertype_kl_sweep_8proc.sh: line 235: unexpected EOF while looking for matching `"' diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue5-gpu3-kl1e-6.log b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue5-gpu3-kl1e-6.log new file mode 100644 index 0000000000000000000000000000000000000000..81972432d8174da09e19cba8030dba81d954fa7d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue5-gpu3-kl1e-6.log @@ -0,0 +1,16942 @@ +[2026-09-17T16:46:30+00:00] tag=queue5-gpu3-kl1e-6 gpu=3 dataset=covertype predictive_kl_end=0.000001 full=0.001875 sx=0.00075 +{ + "dataset": "covertype", + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} +Not SLURM job. +╒══════════════════════════════════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ mock │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ activation_checkpointing │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ deterministic_mode │ warn │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pre_evaluation │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 512 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 500 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ improvement │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_val_cache_cadence │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ init_type │ trunc_normal │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_start_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_lr │ 0.0005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 12 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_ipe_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_gradient_clipping │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_type_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_index_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dropout_prob │ 0.0015 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_hidden │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_feedforward │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_heads │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_layers │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_act_func │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_cadence │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_model │ linear_probe │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ n_cls_tokens │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_type │ transformer │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_layers │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_embed_dim │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_heads │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_p_dropout │ 0.002 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_activation │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_dim_feedforward │ 256 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_allow_overlap │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_ctx_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_ctx_share │ 0.35 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_trgt_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_trgt_share │ 0.6 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_preds │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_encs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mu_init_std │ 0.03 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_std │ 0.005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_bias │ -4.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_x_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_y_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_evaluation_epochs │ 50 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_probe_patience │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_representation_type │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_encoder_type │ target_posterior │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_target_posterior │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_auxiliary_encoder │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_end_weight │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_annealing_epochs │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_x_weight │ 0.001 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_y_weight │ 0.5 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ latent_architecture │ stochastic │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ jepa_objective │ w_jepa_joint │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_full_num_projections │ 2048 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_marginal_num_projections │ 1024 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_p │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_include_marginals │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_x_weight │ 0.00075 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_z_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_y_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_end_weight │ 0.001875 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ safe_exit │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_selection │ filtered_20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sigma_aggregation │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ subset_size │ -1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ is_batchlearning │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ iteration │ 0 │ +╘══════════════════════════════════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════╛ + +CUDA Device Information: +CUDA_VISIBLE_DEVICES: 3 +Number of CUDA devices: 1 +Current CUDA device: 0 +CUDA device name: NVIDIA A100-SXM4-80GB + +Using device: cuda:0 +Device name: NVIDIA A100-SXM4-80GB +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +VariationalTJEPA parameters: ++-------------------------+---------+ +| Parameter | Value | ++=========================+=========+ +| hidden_dim | 64 | ++-------------------------+---------+ +| num_layers | 8 | ++-------------------------+---------+ +| num_heads | 8 | ++-------------------------+---------+ +| p_dropout | 0.0015 | ++-------------------------+---------+ +| layer_norm_eps | 1e-05 | ++-------------------------+---------+ +| feature_type_embedding | True | ++-------------------------+---------+ +| feature_index_embedding | True | ++-------------------------+---------+ +| dim_feedforward | 64 | ++-------------------------+---------+ +| use_reg_token | True | ++-------------------------+---------+ +| gradient_clipping | 1.0 | ++-------------------------+---------+ +| activation | gelu | ++-------------------------+---------+ +| num_features | 54 | ++-------------------------+---------+ +| n_cls_tokens | 1 | ++-------------------------+---------+ +MaskCollator params: +----------------- ----- +Allow overlap False +Min context share 0.15 +Max context share 0.35 +Min target share 0.15 +Max target share 0.6 +Min context 8 +Max context 18 +Min target 8 +Max target 32 +Num preds 4 +Num encs 1 +Num features 54 +Cardinalities [] +Base mask seed 0 +----------------- ----- +KL-x annealing: start=0.0 for 20 steps, then anneal to 1e-06 over 1200 steps. +KL-z annealing: start=0.0 for 20 steps, then anneal to 1e-05 over 1200 steps. +KL-y annealing: start=0.0 for 20 steps, then anneal to 1e-06 over 400 steps. +W-JEPA marginal-scale annealing (s_x): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (z): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (s_y): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +Configuration saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/vtjepa_config.yaml +All results will be saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714 +[VTJEPA] Running downstream probe before training begins +Using full dataset for embedding generation: covertype +Generating embedding using: JEPAEmbeddingEncoder on full dataset + 0%| | 0/20 [00:00= 15) +[VTJEPA] Early stopping triggered at epoch 48 + Best downstream validation score: 0.746250 at epoch 17 + No improvement for 15 probe evaluations +Restored best downstream-selected checkpoint from epoch 17. +Training completed. +[2026-09-17T17:10:34+00:00] tag=queue5-gpu3-kl1e-6 dataset=covertype starting downstream models=mlp,dcnv2,resnet,autoint,fttransformer,xgboost +[Config] Loaded sigma_aggregation=mean from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/vtjepa_config.yaml +[Config] Loaded training data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/vtjepa_config.yaml +Split statistics: + val: 999 samples + test: 2000 samples + train: 7001 samples +Running downstream for dataset 'covertype', model 'mlp'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpu7zel2jf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpu7zel2jf/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpu7zel2jf/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpu7zel2jf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 46/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 253.89it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7327327132225037 │ +│ covertype_val_f1-score │ 0.7241551280021667 │ +│ covertype_val_loss │ 0.6299537420272827 │ +│ covertype_val_precision │ 0.7259424924850464 │ +│ covertype_val_recall │ 0.7327327132225037 │ +│ covertype_val_score │ 0.7327327132225037 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 570.41it/s +Validation metrics: [{'covertype_val_loss': 0.6299537420272827, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7327327132225037, 'covertype_val_precision': 0.7259424924850464, 'covertype_val_recall': 0.7327327132225037, 'covertype_val_f1-score': 0.7241551280021667, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7327327132225037}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 1 samples (0.05%) + Class 1: 968 samples (48.40%) + Class 2: 823 samples (41.15%) + Class 3: 45 samples (2.25%) + Class 4: 128 samples (6.40%) + Class 5: 31 samples (1.55%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7294999957084656 │ +│ covertype_test_f1-score │ 0.7217244505882263 │ +│ covertype_test_loss │ 0.6226202249526978 │ +│ covertype_test_precision │ 0.7371786236763 │ +│ covertype_test_recall │ 0.7294999957084656 │ +│ covertype_test_score │ 0.7294999957084656 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 573.01it/s +Test metrics: [{'covertype_test_loss': 0.6226202249526978, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7294999957084656, 'covertype_test_precision': 0.7371786236763, 'covertype_test_recall': 0.7294999957084656, 'covertype_test_f1-score': 0.7217244505882263, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7294999957084656}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 1 samples (0.05%) + Class 1: 942 samples (49.58%) + Class 2: 818 samples (43.05%) + Class 3: 45 samples (2.37%) + Class 4: 66 samples (3.47%) + Class 5: 27 samples (1.42%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7368 +covertype_test_precision 5% removed: 0.7465 +covertype_test_recall 5% removed: 0.7368 +covertype_test_f1-score 5% removed: 0.7304 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 903 samples (50.17%) + Class 2: 802 samples (44.56%) + Class 3: 45 samples (2.50%) + Class 4: 38 samples (2.11%) + Class 5: 10 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7433 +covertype_test_precision 10% removed: 0.7536 +covertype_test_recall 10% removed: 0.7433 +covertype_test_f1-score 10% removed: 0.7370 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 780 samples (48.75%) + Class 2: 746 samples (46.62%) + Class 3: 41 samples (2.56%) + Class 4: 26 samples (1.62%) + Class 5: 6 samples (0.38%) +============================================================ +covertype_test_accuracy 20% removed: 0.7419 +covertype_test_precision 20% removed: 0.7531 +covertype_test_recall 20% removed: 0.7419 +covertype_test_f1-score 20% removed: 0.7369 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 504 samples (50.40%) + Class 2: 453 samples (45.30%) + Class 3: 38 samples (3.80%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7540 +covertype_test_precision 50% removed: 0.7504 +covertype_test_recall 50% removed: 0.7540 +covertype_test_f1-score 50% removed: 0.7504 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpu7zel2jf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpu7zel2jf/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpu7zel2jf/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpu7zel2jf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 39/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 200.99it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7437437176704407 │ +│ covertype_val_f1-score │ 0.7289066910743713 │ +│ covertype_val_loss │ 0.6532697677612305 │ +│ covertype_val_precision │ 0.7405602931976318 │ +│ covertype_val_recall │ 0.7437437176704407 │ +│ covertype_val_score │ 0.7437437176704407 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 548.99it/s +Validation metrics: [{'covertype_val_loss': 0.6532697677612305, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7437437176704407, 'covertype_val_precision': 0.7405602931976318, 'covertype_val_recall': 0.7437437176704407, 'covertype_val_f1-score': 0.7289066910743713, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7437437176704407}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1107 samples (55.35%) + Class 2: 644 samples (32.20%) + Class 3: 53 samples (2.65%) + Class 4: 184 samples (9.20%) + Class 5: 7 samples (0.35%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.718500018119812 │ +│ covertype_test_f1-score │ 0.7028539776802063 │ +│ covertype_test_loss │ 0.6470260620117188 │ +│ covertype_test_precision │ 0.7017971277236938 │ +│ covertype_test_recall │ 0.718500018119812 │ +│ covertype_test_score │ 0.718500018119812 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 565.55it/s +Test metrics: [{'covertype_test_loss': 0.6470260620117188, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.718500018119812, 'covertype_test_precision': 0.7017971277236938, 'covertype_test_recall': 0.718500018119812, 'covertype_test_f1-score': 0.7028539776802063, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.718500018119812}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1092 samples (57.47%) + Class 2: 640 samples (33.68%) + Class 3: 53 samples (2.79%) + Class 4: 107 samples (5.63%) + Class 5: 7 samples (0.37%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7253 +covertype_test_precision 5% removed: 0.7107 +covertype_test_recall 5% removed: 0.7253 +covertype_test_f1-score 5% removed: 0.7128 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 1: 1061 samples (58.94%) + Class 2: 627 samples (34.83%) + Class 3: 53 samples (2.94%) + Class 4: 52 samples (2.89%) + Class 5: 6 samples (0.33%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7322 +covertype_test_precision 10% removed: 0.7171 +covertype_test_recall 10% removed: 0.7322 +covertype_test_f1-score 10% removed: 0.7215 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 1: 944 samples (59.00%) + Class 2: 576 samples (36.00%) + Class 3: 48 samples (3.00%) + Class 4: 28 samples (1.75%) + Class 5: 4 samples (0.25%) +============================================================ +covertype_test_accuracy 20% removed: 0.7344 +covertype_test_precision 20% removed: 0.7206 +covertype_test_recall 20% removed: 0.7344 +covertype_test_f1-score 20% removed: 0.7247 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 612 samples (61.20%) + Class 2: 339 samples (33.90%) + Class 3: 44 samples (4.40%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7380 +covertype_test_precision 50% removed: 0.7299 +covertype_test_recall 50% removed: 0.7380 +covertype_test_f1-score 50% removed: 0.7291 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpu7zel2jf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpu7zel2jf/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpu7zel2jf/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpu7zel2jf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 261.11it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7267267107963562 │ +│ covertype_val_f1-score │ 0.7131471633911133 │ +│ covertype_val_loss │ 0.6679255366325378 │ +│ covertype_val_precision │ 0.7124902606010437 │ +│ covertype_val_recall │ 0.7267267107963562 │ +│ covertype_val_score │ 0.7267267107963562 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 543.10it/s +Validation metrics: [{'covertype_val_loss': 0.6679255366325378, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7267267107963562, 'covertype_val_precision': 0.7124902606010437, 'covertype_val_recall': 0.7267267107963562, 'covertype_val_f1-score': 0.7131471633911133, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7267267107963562}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1163 samples (58.15%) + Class 2: 604 samples (30.20%) + Class 3: 23 samples (1.15%) + Class 4: 158 samples (7.90%) + Class 5: 52 samples (2.60%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7039999961853027 │ +│ covertype_test_f1-score │ 0.6909818649291992 │ +│ covertype_test_loss │ 0.6741310954093933 │ +│ covertype_test_precision │ 0.6964541673660278 │ +│ covertype_test_recall │ 0.7039999961853027 │ +│ covertype_test_score │ 0.7039999961853027 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 571.26it/s +Test metrics: [{'covertype_test_loss': 0.6741310954093933, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7039999961853027, 'covertype_test_precision': 0.6964541673660278, 'covertype_test_recall': 0.7039999961853027, 'covertype_test_f1-score': 0.6909818649291992, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7039999961853027}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1149 samples (60.47%) + Class 2: 600 samples (31.58%) + Class 3: 23 samples (1.21%) + Class 4: 81 samples (4.26%) + Class 5: 47 samples (2.47%) +============================================================ +covertype_test_accuracy 5% removed: 0.7100 +covertype_test_precision 5% removed: 0.7040 +covertype_test_recall 5% removed: 0.7100 +covertype_test_f1-score 5% removed: 0.6983 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 1: 1116 samples (62.00%) + Class 2: 589 samples (32.72%) + Class 3: 23 samples (1.28%) + Class 4: 43 samples (2.39%) + Class 5: 29 samples (1.61%) +============================================================ +covertype_test_accuracy 10% removed: 0.7167 +covertype_test_precision 10% removed: 0.7096 +covertype_test_recall 10% removed: 0.7167 +covertype_test_f1-score 10% removed: 0.7040 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 1: 1005 samples (62.81%) + Class 2: 536 samples (33.50%) + Class 3: 20 samples (1.25%) + Class 4: 27 samples (1.69%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.7181 +covertype_test_precision 20% removed: 0.7129 +covertype_test_recall 20% removed: 0.7181 +covertype_test_f1-score 20% removed: 0.7045 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 663 samples (66.30%) + Class 2: 312 samples (31.20%) + Class 3: 20 samples (2.00%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7160 +covertype_test_precision 50% removed: 0.7161 +covertype_test_recall 50% removed: 0.7160 +covertype_test_f1-score 50% removed: 0.7001 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpu7zel2jf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpu7zel2jf/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpu7zel2jf/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpu7zel2jf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 45/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 217.65it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.6836836934089661 │ +│ covertype_val_f1-score │ 0.6729680895805359 │ +│ covertype_val_loss │ 0.7169666290283203 │ +│ covertype_val_precision │ 0.694863498210907 │ +│ covertype_val_recall │ 0.6836836934089661 │ +│ covertype_val_score │ 0.6836836934089661 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 545.41it/s +Validation metrics: [{'covertype_val_loss': 0.7169666290283203, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.6836836934089661, 'covertype_val_precision': 0.694863498210907, 'covertype_val_recall': 0.6836836934089661, 'covertype_val_f1-score': 0.6729680895805359, 'covertype_val_support': 999.0, 'covertype_val_score': 0.6836836934089661}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 7 samples (0.35%) + Class 1: 787 samples (39.35%) + Class 2: 1040 samples (52.00%) + Class 3: 37 samples (1.85%) + Class 4: 93 samples (4.65%) + Class 5: 35 samples (1.75%) + Class 6: 1 samples (0.05%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6815000176429749 │ +│ covertype_test_f1-score │ 0.671328604221344 │ +│ covertype_test_loss │ 0.7150909304618835 │ +│ covertype_test_precision │ 0.7009594440460205 │ +│ covertype_test_recall │ 0.6815000176429749 │ +│ covertype_test_score │ 0.6815000176429749 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 552.71it/s +Test metrics: [{'covertype_test_loss': 0.7150909304618835, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6815000176429749, 'covertype_test_precision': 0.7009594440460205, 'covertype_test_recall': 0.6815000176429749, 'covertype_test_f1-score': 0.671328604221344, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6815000176429749}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 7 samples (0.37%) + Class 1: 744 samples (39.16%) + Class 2: 1035 samples (54.47%) + Class 3: 37 samples (1.95%) + Class 4: 47 samples (2.47%) + Class 5: 30 samples (1.58%) +============================================================ +covertype_test_accuracy 5% removed: 0.6889 +covertype_test_precision 5% removed: 0.7143 +covertype_test_recall 5% removed: 0.6889 +covertype_test_f1-score 5% removed: 0.6805 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 7 samples (0.39%) + Class 1: 696 samples (38.67%) + Class 2: 1017 samples (56.50%) + Class 3: 37 samples (2.06%) + Class 4: 35 samples (1.94%) + Class 5: 8 samples (0.44%) +============================================================ +covertype_test_accuracy 10% removed: 0.6956 +covertype_test_precision 10% removed: 0.7250 +covertype_test_recall 10% removed: 0.6956 +covertype_test_f1-score 10% removed: 0.6870 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 6 samples (0.38%) + Class 1: 582 samples (36.38%) + Class 2: 952 samples (59.50%) + Class 3: 33 samples (2.06%) + Class 4: 25 samples (1.56%) + Class 5: 2 samples (0.12%) +============================================================ +covertype_test_accuracy 20% removed: 0.6913 +covertype_test_precision 20% removed: 0.7280 +covertype_test_recall 20% removed: 0.6913 +covertype_test_f1-score 20% removed: 0.6819 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 360 samples (36.00%) + Class 2: 605 samples (60.50%) + Class 3: 30 samples (3.00%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7010 +covertype_test_precision 50% removed: 0.7426 +covertype_test_recall 50% removed: 0.7010 +covertype_test_f1-score 50% removed: 0.6945 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpu7zel2jf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpu7zel2jf/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpu7zel2jf/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpu7zel2jf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 196.91it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7127127051353455 │ +│ covertype_val_f1-score │ 0.700475811958313 │ +│ covertype_val_loss │ 0.6536407470703125 │ +│ covertype_val_precision │ 0.708427906036377 │ +│ covertype_val_recall │ 0.7127127051353455 │ +│ covertype_val_score │ 0.7127127051353455 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 543.90it/s +Validation metrics: [{'covertype_val_loss': 0.6536407470703125, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7127127051353455, 'covertype_val_precision': 0.708427906036377, 'covertype_val_recall': 0.7127127051353455, 'covertype_val_f1-score': 0.700475811958313, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7127127051353455}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 914 samples (45.70%) + Class 2: 862 samples (43.10%) + Class 3: 51 samples (2.55%) + Class 4: 161 samples (8.05%) + Class 5: 11 samples (0.55%) + Class 6: 1 samples (0.05%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7080000042915344 │ +│ covertype_test_f1-score │ 0.695200502872467 │ +│ covertype_test_loss │ 0.644321084022522 │ +│ covertype_test_precision │ 0.7022173404693604 │ +│ covertype_test_recall │ 0.7080000042915344 │ +│ covertype_test_score │ 0.7080000042915344 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 451.02it/s +Test metrics: [{'covertype_test_loss': 0.644321084022522, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7080000042915344, 'covertype_test_precision': 0.7022173404693604, 'covertype_test_recall': 0.7080000042915344, 'covertype_test_f1-score': 0.695200502872467, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7080000042915344}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 892 samples (46.95%) + Class 2: 857 samples (45.11%) + Class 3: 51 samples (2.68%) + Class 4: 90 samples (4.74%) + Class 5: 9 samples (0.47%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7147 +covertype_test_precision 5% removed: 0.7099 +covertype_test_recall 5% removed: 0.7147 +covertype_test_f1-score 5% removed: 0.7052 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 1: 856 samples (47.56%) + Class 2: 841 samples (46.72%) + Class 3: 51 samples (2.83%) + Class 4: 45 samples (2.50%) + Class 5: 6 samples (0.33%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7211 +covertype_test_precision 10% removed: 0.7176 +covertype_test_recall 10% removed: 0.7211 +covertype_test_f1-score 10% removed: 0.7136 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 1: 737 samples (46.06%) + Class 2: 786 samples (49.12%) + Class 3: 46 samples (2.88%) + Class 4: 27 samples (1.69%) + Class 5: 4 samples (0.25%) +============================================================ +covertype_test_accuracy 20% removed: 0.7194 +covertype_test_precision 20% removed: 0.7186 +covertype_test_recall 20% removed: 0.7194 +covertype_test_f1-score 20% removed: 0.7131 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 475 samples (47.50%) + Class 2: 478 samples (47.80%) + Class 3: 42 samples (4.20%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7340 +covertype_test_precision 50% removed: 0.7344 +covertype_test_recall 50% removed: 0.7340 +covertype_test_f1-score 50% removed: 0.7309 +Wrote results for mlp on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/mlp_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7083±0.0223 5%: 0.7152±0.0223 10%: 0.7218±0.0223 20%: 0.7210±0.0241 50%: 0.7286±0.0255 +covertype_test_precision 0%: 0.7077±0.0206 5%: 0.7171±0.0210 10%: 0.7246±0.0212 20%: 0.7266±0.0195 50%: 0.7347±0.0162 +covertype_test_recall 0%: 0.7083±0.0223 5%: 0.7152±0.0223 10%: 0.7218±0.0223 20%: 0.7210±0.0241 50%: 0.7286±0.0255 +covertype_test_f1-score 0%: 0.6964±0.0227 5%: 0.7054±0.0228 10%: 0.7126±0.0232 20%: 0.7122±0.0259 50%: 0.7210±0.0289 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'dcnv2'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp9ija6f2d/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp9ija6f2d/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp9ija6f2d/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp9ija6f2d/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 138.50it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7737737894058228 │ +│ covertype_val_f1-score │ 0.7691974639892578 │ +│ covertype_val_loss │ 0.5527006983757019 │ +│ covertype_val_precision │ 0.7681965827941895 │ +│ covertype_val_recall │ 0.7737737894058228 │ +│ covertype_val_score │ 0.7737737894058228 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 383.46it/s +Validation metrics: [{'covertype_val_loss': 0.5527006983757019, 'lr': 0.0, 'covertype_val_accuracy': 0.7737737894058228, 'covertype_val_precision': 0.7681965827941895, 'covertype_val_recall': 0.7737737894058228, 'covertype_val_f1-score': 0.7691974639892578, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7737737894058228}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 12 samples (0.60%) + Class 1: 1029 samples (51.45%) + Class 2: 715 samples (35.75%) + Class 3: 58 samples (2.90%) + Class 4: 133 samples (6.65%) + Class 5: 50 samples (2.50%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7850000262260437 │ +│ covertype_test_f1-score │ 0.7821859121322632 │ +│ covertype_test_loss │ 0.5691579580307007 │ +│ covertype_test_precision │ 0.7849112749099731 │ +│ covertype_test_recall │ 0.7850000262260437 │ +│ covertype_test_score │ 0.7850000262260437 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 401.17it/s +Test metrics: [{'covertype_test_loss': 0.5691579580307007, 'lr': 0.0, 'covertype_test_accuracy': 0.7850000262260437, 'covertype_test_precision': 0.7849112749099731, 'covertype_test_recall': 0.7850000262260437, 'covertype_test_f1-score': 0.7821859121322632, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7850000262260437}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 12 samples (0.63%) + Class 1: 1008 samples (53.05%) + Class 2: 708 samples (37.26%) + Class 3: 58 samples (3.05%) + Class 4: 70 samples (3.68%) + Class 5: 44 samples (2.32%) +============================================================ +covertype_test_accuracy 5% removed: 0.7889 +covertype_test_precision 5% removed: 0.7883 +covertype_test_recall 5% removed: 0.7889 +covertype_test_f1-score 5% removed: 0.7867 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 11 samples (0.61%) + Class 1: 975 samples (54.17%) + Class 2: 692 samples (38.44%) + Class 3: 58 samples (3.22%) + Class 4: 41 samples (2.28%) + Class 5: 23 samples (1.28%) +============================================================ +covertype_test_accuracy 10% removed: 0.7944 +covertype_test_precision 10% removed: 0.7928 +covertype_test_recall 10% removed: 0.7944 +covertype_test_f1-score 10% removed: 0.7916 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 859 samples (53.69%) + Class 2: 638 samples (39.88%) + Class 3: 54 samples (3.38%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.7969 +covertype_test_precision 20% removed: 0.7963 +covertype_test_recall 20% removed: 0.7969 +covertype_test_f1-score 20% removed: 0.7952 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 549 samples (54.90%) + Class 2: 394 samples (39.40%) + Class 3: 47 samples (4.70%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.8020 +covertype_test_precision 50% removed: 0.7994 +covertype_test_recall 50% removed: 0.8020 +covertype_test_f1-score 50% removed: 0.7998 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp9ija6f2d/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp9ija6f2d/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp9ija6f2d/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp9ija6f2d/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 164.63it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7657657861709595 │ +│ covertype_val_f1-score │ 0.7602761387825012 │ +│ covertype_val_loss │ 0.5873039960861206 │ +│ covertype_val_precision │ 0.7595828771591187 │ +│ covertype_val_recall │ 0.7657657861709595 │ +│ covertype_val_score │ 0.7657657861709595 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.866357686405536e-07 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 385.48it/s +Validation metrics: [{'covertype_val_loss': 0.5873039960861206, 'lr': 9.866357686405536e-07, 'covertype_val_accuracy': 0.7657657861709595, 'covertype_val_precision': 0.7595828771591187, 'covertype_val_recall': 0.7657657861709595, 'covertype_val_f1-score': 0.7602761387825012, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7657657861709595}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 1031 samples (51.55%) + Class 2: 708 samples (35.40%) + Class 3: 58 samples (2.90%) + Class 4: 136 samples (6.80%) + Class 5: 49 samples (2.45%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7870000004768372 │ +│ covertype_test_f1-score │ 0.7846868634223938 │ +│ covertype_test_loss │ 0.5780495405197144 │ +│ covertype_test_precision │ 0.7870326638221741 │ +│ covertype_test_recall │ 0.7870000004768372 │ +│ covertype_test_score │ 0.7870000004768372 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.866358823273913e-07 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 422.11it/s +Test metrics: [{'covertype_test_loss': 0.5780495405197144, 'lr': 9.866358823273913e-07, 'covertype_test_accuracy': 0.7870000004768372, 'covertype_test_precision': 0.7870326638221741, 'covertype_test_recall': 0.7870000004768372, 'covertype_test_f1-score': 0.7846868634223938, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7870000004768372}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 14 samples (0.74%) + Class 1: 1009 samples (53.11%) + Class 2: 704 samples (37.05%) + Class 3: 58 samples (3.05%) + Class 4: 70 samples (3.68%) + Class 5: 44 samples (2.32%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7926 +covertype_test_precision 5% removed: 0.7936 +covertype_test_recall 5% removed: 0.7926 +covertype_test_f1-score 5% removed: 0.7912 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 974 samples (54.11%) + Class 2: 688 samples (38.22%) + Class 3: 58 samples (3.22%) + Class 4: 41 samples (2.28%) + Class 5: 25 samples (1.39%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7989 +covertype_test_precision 10% removed: 0.7988 +covertype_test_recall 10% removed: 0.7989 +covertype_test_f1-score 10% removed: 0.7970 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 855 samples (53.44%) + Class 2: 637 samples (39.81%) + Class 3: 54 samples (3.38%) + Class 4: 26 samples (1.62%) + Class 5: 15 samples (0.94%) +============================================================ +covertype_test_accuracy 20% removed: 0.7994 +covertype_test_precision 20% removed: 0.7992 +covertype_test_recall 20% removed: 0.7994 +covertype_test_f1-score 20% removed: 0.7983 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 545 samples (54.50%) + Class 2: 399 samples (39.90%) + Class 3: 48 samples (4.80%) + Class 4: 4 samples (0.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.8000 +covertype_test_precision 50% removed: 0.7978 +covertype_test_recall 50% removed: 0.8000 +covertype_test_f1-score 50% removed: 0.7977 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp9ija6f2d/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp9ija6f2d/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp9ija6f2d/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp9ija6f2d/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 154.47it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7747747898101807 │ +│ covertype_val_f1-score │ 0.7686594128608704 │ +│ covertype_val_loss │ 0.5523149371147156 │ +│ covertype_val_precision │ 0.7651488184928894 │ +│ covertype_val_recall │ 0.7747747898101807 │ +│ covertype_val_score │ 0.7747747898101807 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 382.77it/s +Validation metrics: [{'covertype_val_loss': 0.5523149371147156, 'lr': 0.0, 'covertype_val_accuracy': 0.7747747898101807, 'covertype_val_precision': 0.7651488184928894, 'covertype_val_recall': 0.7747747898101807, 'covertype_val_f1-score': 0.7686594128608704, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7747747898101807}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 999 samples (49.95%) + Class 2: 743 samples (37.15%) + Class 3: 57 samples (2.85%) + Class 4: 131 samples (6.55%) + Class 5: 50 samples (2.50%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7879999876022339 │ +│ covertype_test_f1-score │ 0.7856784462928772 │ +│ covertype_test_loss │ 0.5600196123123169 │ +│ covertype_test_precision │ 0.7870120406150818 │ +│ covertype_test_recall │ 0.7879999876022339 │ +│ covertype_test_score │ 0.7879999876022339 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 408.74it/s +Test metrics: [{'covertype_test_loss': 0.5600196123123169, 'lr': 0.0, 'covertype_test_accuracy': 0.7879999876022339, 'covertype_test_precision': 0.7870120406150818, 'covertype_test_recall': 0.7879999876022339, 'covertype_test_f1-score': 0.7856784462928772, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7879999876022339}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 978 samples (51.47%) + Class 2: 737 samples (38.79%) + Class 3: 57 samples (3.00%) + Class 4: 65 samples (3.42%) + Class 5: 46 samples (2.42%) +============================================================ +covertype_test_accuracy 5% removed: 0.7932 +covertype_test_precision 5% removed: 0.7916 +covertype_test_recall 5% removed: 0.7932 +covertype_test_f1-score 5% removed: 0.7913 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 946 samples (52.56%) + Class 2: 719 samples (39.94%) + Class 3: 57 samples (3.17%) + Class 4: 39 samples (2.17%) + Class 5: 23 samples (1.28%) +============================================================ +covertype_test_accuracy 10% removed: 0.8000 +covertype_test_precision 10% removed: 0.7972 +covertype_test_recall 10% removed: 0.8000 +covertype_test_f1-score 10% removed: 0.7977 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 834 samples (52.12%) + Class 2: 663 samples (41.44%) + Class 3: 53 samples (3.31%) + Class 4: 24 samples (1.50%) + Class 5: 13 samples (0.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.8056 +covertype_test_precision 20% removed: 0.8048 +covertype_test_recall 20% removed: 0.8056 +covertype_test_f1-score 20% removed: 0.8043 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 3 samples (0.30%) + Class 1: 527 samples (52.70%) + Class 2: 420 samples (42.00%) + Class 3: 46 samples (4.60%) + Class 4: 4 samples (0.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.8150 +covertype_test_precision 50% removed: 0.8130 +covertype_test_recall 50% removed: 0.8150 +covertype_test_f1-score 50% removed: 0.8126 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp9ija6f2d/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp9ija6f2d/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp9ija6f2d/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp9ija6f2d/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 179.07it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7847847938537598 │ +│ covertype_val_f1-score │ 0.7792038321495056 │ +│ covertype_val_loss │ 0.567266047000885 │ +│ covertype_val_precision │ 0.7791393995285034 │ +│ covertype_val_recall │ 0.7847847938537598 │ +│ covertype_val_score │ 0.7847847938537598 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 378.50it/s +Validation metrics: [{'covertype_val_loss': 0.567266047000885, 'lr': 0.0, 'covertype_val_accuracy': 0.7847847938537598, 'covertype_val_precision': 0.7791393995285034, 'covertype_val_recall': 0.7847847938537598, 'covertype_val_f1-score': 0.7792038321495056, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7847847938537598}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1024 samples (51.20%) + Class 2: 711 samples (35.55%) + Class 3: 60 samples (3.00%) + Class 4: 130 samples (6.50%) + Class 5: 56 samples (2.80%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7975000143051147 │ +│ covertype_test_f1-score │ 0.7956761717796326 │ +│ covertype_test_loss │ 0.5927670001983643 │ +│ covertype_test_precision │ 0.7972644567489624 │ +│ covertype_test_recall │ 0.7975000143051147 │ +│ covertype_test_score │ 0.7975000143051147 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 389.65it/s +Test metrics: [{'covertype_test_loss': 0.5927670001983643, 'lr': 0.0, 'covertype_test_accuracy': 0.7975000143051147, 'covertype_test_precision': 0.7972644567489624, 'covertype_test_recall': 0.7975000143051147, 'covertype_test_f1-score': 0.7956761717796326, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7975000143051147}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 16 samples (0.84%) + Class 1: 1001 samples (52.68%) + Class 2: 706 samples (37.16%) + Class 3: 60 samples (3.16%) + Class 4: 68 samples (3.58%) + Class 5: 49 samples (2.58%) +============================================================ +covertype_test_accuracy 5% removed: 0.8037 +covertype_test_precision 5% removed: 0.8031 +covertype_test_recall 5% removed: 0.8037 +covertype_test_f1-score 5% removed: 0.8022 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 967 samples (53.72%) + Class 2: 690 samples (38.33%) + Class 3: 60 samples (3.33%) + Class 4: 44 samples (2.44%) + Class 5: 24 samples (1.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.8089 +covertype_test_precision 10% removed: 0.8072 +covertype_test_recall 10% removed: 0.8089 +covertype_test_f1-score 10% removed: 0.8069 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 849 samples (53.06%) + Class 2: 639 samples (39.94%) + Class 3: 56 samples (3.50%) + Class 4: 28 samples (1.75%) + Class 5: 13 samples (0.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.8125 +covertype_test_precision 20% removed: 0.8120 +covertype_test_recall 20% removed: 0.8125 +covertype_test_f1-score 20% removed: 0.8117 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 543 samples (54.30%) + Class 2: 398 samples (39.80%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8190 +covertype_test_precision 50% removed: 0.8182 +covertype_test_recall 50% removed: 0.8190 +covertype_test_f1-score 50% removed: 0.8177 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp9ija6f2d/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp9ija6f2d/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp9ija6f2d/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp9ija6f2d/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 145.08it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7797797918319702 │ +│ covertype_val_f1-score │ 0.770776629447937 │ +│ covertype_val_loss │ 0.5705147385597229 │ +│ covertype_val_precision │ 0.7682518362998962 │ +│ covertype_val_recall │ 0.7797797918319702 │ +│ covertype_val_score │ 0.7797797918319702 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.866357686405536e-07 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 388.84it/s +Validation metrics: [{'covertype_val_loss': 0.5705147385597229, 'lr': 9.866357686405536e-07, 'covertype_val_accuracy': 0.7797797918319702, 'covertype_val_precision': 0.7682518362998962, 'covertype_val_recall': 0.7797797918319702, 'covertype_val_f1-score': 0.770776629447937, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7797797918319702}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 1033 samples (51.65%) + Class 2: 707 samples (35.35%) + Class 3: 56 samples (2.80%) + Class 4: 142 samples (7.10%) + Class 5: 41 samples (2.05%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7870000004768372 │ +│ covertype_test_f1-score │ 0.7837361693382263 │ +│ covertype_test_loss │ 0.5698819160461426 │ +│ covertype_test_precision │ 0.7851959466934204 │ +│ covertype_test_recall │ 0.7870000004768372 │ +│ covertype_test_score │ 0.7870000004768372 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.866358823273913e-07 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 367.45it/s +Test metrics: [{'covertype_test_loss': 0.5698819160461426, 'lr': 9.866358823273913e-07, 'covertype_test_accuracy': 0.7870000004768372, 'covertype_test_precision': 0.7851959466934204, 'covertype_test_recall': 0.7870000004768372, 'covertype_test_f1-score': 0.7837361693382263, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7870000004768372}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 1012 samples (53.26%) + Class 2: 702 samples (36.95%) + Class 3: 56 samples (2.95%) + Class 4: 73 samples (3.84%) + Class 5: 39 samples (2.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7947 +covertype_test_precision 5% removed: 0.7924 +covertype_test_recall 5% removed: 0.7947 +covertype_test_f1-score 5% removed: 0.7927 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 975 samples (54.17%) + Class 2: 688 samples (38.22%) + Class 3: 56 samples (3.11%) + Class 4: 49 samples (2.72%) + Class 5: 15 samples (0.83%) +============================================================ +covertype_test_accuracy 10% removed: 0.7983 +covertype_test_precision 10% removed: 0.7946 +covertype_test_recall 10% removed: 0.7983 +covertype_test_f1-score 10% removed: 0.7955 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 859 samples (53.69%) + Class 2: 635 samples (39.69%) + Class 3: 53 samples (3.31%) + Class 4: 34 samples (2.12%) + Class 5: 4 samples (0.25%) +============================================================ +covertype_test_accuracy 20% removed: 0.8006 +covertype_test_precision 20% removed: 0.7990 +covertype_test_recall 20% removed: 0.8006 +covertype_test_f1-score 20% removed: 0.7984 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 552 samples (55.20%) + Class 2: 393 samples (39.30%) + Class 3: 46 samples (4.60%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.8030 +covertype_test_precision 50% removed: 0.7996 +covertype_test_recall 50% removed: 0.8030 +covertype_test_f1-score 50% removed: 0.8001 +Wrote results for dcnv2 on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/dcnv2_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7889±0.0061 5%: 0.7946±0.0068 10%: 0.8001±0.0066 20%: 0.8030±0.0077 50%: 0.8078±0.0107 +covertype_test_precision 0%: 0.7883±0.0064 5%: 0.7938±0.0069 10%: 0.7981±0.0069 20%: 0.8023±0.0078 50%: 0.8056±0.0116 +covertype_test_recall 0%: 0.7889±0.0061 5%: 0.7946±0.0068 10%: 0.8001±0.0066 20%: 0.8030±0.0077 50%: 0.8078±0.0107 +covertype_test_f1-score 0%: 0.7864±0.0066 5%: 0.7928±0.0071 10%: 0.7977±0.0070 20%: 0.8016±0.0081 50%: 0.8056±0.0111 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'resnet'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpredcgorb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpredcgorb/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpredcgorb/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpredcgorb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 186.36it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7517517805099487 │ +│ covertype_val_f1-score │ 0.7491560578346252 │ +│ covertype_val_loss │ 0.5800806879997253 │ +│ covertype_val_precision │ 0.7486118674278259 │ +│ covertype_val_recall │ 0.7517517805099487 │ +│ covertype_val_score │ 0.7517517805099487 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 365.15it/s +Validation metrics: [{'covertype_val_loss': 0.5800806879997253, 'lr': 0.0, 'covertype_val_accuracy': 0.7517517805099487, 'covertype_val_precision': 0.7486118674278259, 'covertype_val_recall': 0.7517517805099487, 'covertype_val_f1-score': 0.7491560578346252, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7517517805099487}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 23 samples (1.15%) + Class 1: 992 samples (49.60%) + Class 2: 729 samples (36.45%) + Class 3: 63 samples (3.15%) + Class 4: 121 samples (6.05%) + Class 5: 67 samples (3.35%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7714999914169312 │ +│ covertype_test_f1-score │ 0.7714375257492065 │ +│ covertype_test_loss │ 0.5644186735153198 │ +│ covertype_test_precision │ 0.7724735736846924 │ +│ covertype_test_recall │ 0.7714999914169312 │ +│ covertype_test_score │ 0.7714999914169312 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 405.31it/s +Test metrics: [{'covertype_test_loss': 0.5644186735153198, 'lr': 0.0, 'covertype_test_accuracy': 0.7714999914169312, 'covertype_test_precision': 0.7724735736846924, 'covertype_test_recall': 0.7714999914169312, 'covertype_test_f1-score': 0.7714375257492065, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7714999914169312}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 23 samples (1.21%) + Class 1: 974 samples (51.26%) + Class 2: 722 samples (38.00%) + Class 3: 63 samples (3.32%) + Class 4: 63 samples (3.32%) + Class 5: 55 samples (2.89%) +============================================================ +covertype_test_accuracy 5% removed: 0.7779 +covertype_test_precision 5% removed: 0.7789 +covertype_test_recall 5% removed: 0.7779 +covertype_test_f1-score 5% removed: 0.7777 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 20 samples (1.11%) + Class 1: 943 samples (52.39%) + Class 2: 706 samples (39.22%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 28 samples (1.56%) +============================================================ +covertype_test_accuracy 10% removed: 0.7839 +covertype_test_precision 10% removed: 0.7838 +covertype_test_recall 10% removed: 0.7839 +covertype_test_f1-score 10% removed: 0.7832 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 19 samples (1.19%) + Class 1: 825 samples (51.56%) + Class 2: 655 samples (40.94%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 16 samples (1.00%) +============================================================ +covertype_test_accuracy 20% removed: 0.7850 +covertype_test_precision 20% removed: 0.7861 +covertype_test_recall 20% removed: 0.7850 +covertype_test_f1-score 20% removed: 0.7852 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 8 samples (0.80%) + Class 1: 522 samples (52.20%) + Class 2: 412 samples (41.20%) + Class 3: 52 samples (5.20%) + Class 4: 4 samples (0.40%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7760 +covertype_test_precision 50% removed: 0.7756 +covertype_test_recall 50% removed: 0.7760 +covertype_test_f1-score 50% removed: 0.7756 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpredcgorb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpredcgorb/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpredcgorb/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpredcgorb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 126.52it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7607607841491699 │ +│ covertype_val_f1-score │ 0.7533164620399475 │ +│ covertype_val_loss │ 0.6140382885932922 │ +│ covertype_val_precision │ 0.7512699961662292 │ +│ covertype_val_recall │ 0.7607607841491699 │ +│ covertype_val_score │ 0.7607607841491699 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 386.09it/s +Validation metrics: [{'covertype_val_loss': 0.6140382885932922, 'lr': 0.0, 'covertype_val_accuracy': 0.7607607841491699, 'covertype_val_precision': 0.7512699961662292, 'covertype_val_recall': 0.7607607841491699, 'covertype_val_f1-score': 0.7533164620399475, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7607607841491699}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 21 samples (1.05%) + Class 1: 1007 samples (50.35%) + Class 2: 751 samples (37.55%) + Class 3: 42 samples (2.10%) + Class 4: 137 samples (6.85%) + Class 5: 36 samples (1.80%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7785000205039978 │ +│ covertype_test_f1-score │ 0.7756673693656921 │ +│ covertype_test_loss │ 0.5726626515388489 │ +│ covertype_test_precision │ 0.7796789407730103 │ +│ covertype_test_recall │ 0.7785000205039978 │ +│ covertype_test_score │ 0.7785000205039978 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 398.58it/s +Test metrics: [{'covertype_test_loss': 0.5726626515388489, 'lr': 0.0, 'covertype_test_accuracy': 0.7785000205039978, 'covertype_test_precision': 0.7796789407730103, 'covertype_test_recall': 0.7785000205039978, 'covertype_test_f1-score': 0.7756673693656921, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7785000205039978}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 21 samples (1.11%) + Class 1: 983 samples (51.74%) + Class 2: 747 samples (39.32%) + Class 3: 42 samples (2.21%) + Class 4: 75 samples (3.95%) + Class 5: 31 samples (1.63%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7826 +covertype_test_precision 5% removed: 0.7845 +covertype_test_recall 5% removed: 0.7826 +covertype_test_f1-score 5% removed: 0.7810 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 19 samples (1.06%) + Class 1: 943 samples (52.39%) + Class 2: 732 samples (40.67%) + Class 3: 42 samples (2.33%) + Class 4: 47 samples (2.61%) + Class 5: 16 samples (0.89%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7833 +covertype_test_precision 10% removed: 0.7842 +covertype_test_recall 10% removed: 0.7833 +covertype_test_f1-score 10% removed: 0.7815 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 830 samples (51.88%) + Class 2: 681 samples (42.56%) + Class 3: 39 samples (2.44%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7875 +covertype_test_precision 20% removed: 0.7896 +covertype_test_recall 20% removed: 0.7875 +covertype_test_f1-score 20% removed: 0.7862 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 528 samples (52.80%) + Class 2: 428 samples (42.80%) + Class 3: 33 samples (3.30%) + Class 4: 5 samples (0.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7920 +covertype_test_precision 50% removed: 0.7954 +covertype_test_recall 50% removed: 0.7920 +covertype_test_f1-score 50% removed: 0.7912 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpredcgorb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpredcgorb/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpredcgorb/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpredcgorb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 47/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 139.65it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7737737894058228 │ +│ covertype_val_f1-score │ 0.7682856917381287 │ +│ covertype_val_loss │ 0.5736250281333923 │ +│ covertype_val_precision │ 0.7694842219352722 │ +│ covertype_val_recall │ 0.7737737894058228 │ +│ covertype_val_score │ 0.7737737894058228 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 345.50it/s +Validation metrics: [{'covertype_val_loss': 0.5736250281333923, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7737737894058228, 'covertype_val_precision': 0.7694842219352722, 'covertype_val_recall': 0.7737737894058228, 'covertype_val_f1-score': 0.7682856917381287, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7737737894058228}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1020 samples (51.00%) + Class 2: 717 samples (35.85%) + Class 3: 48 samples (2.40%) + Class 4: 154 samples (7.70%) + Class 5: 36 samples (1.80%) + Class 6: 8 samples (0.40%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.777999997138977 │ +│ covertype_test_f1-score │ 0.775600790977478 │ +│ covertype_test_loss │ 0.5683519244194031 │ +│ covertype_test_precision │ 0.7803512215614319 │ +│ covertype_test_recall │ 0.777999997138977 │ +│ covertype_test_score │ 0.777999997138977 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 320.58it/s +Test metrics: [{'covertype_test_loss': 0.5683519244194031, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.777999997138977, 'covertype_test_precision': 0.7803512215614319, 'covertype_test_recall': 0.777999997138977, 'covertype_test_f1-score': 0.775600790977478, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.777999997138977}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 1003 samples (52.79%) + Class 2: 711 samples (37.42%) + Class 3: 48 samples (2.53%) + Class 4: 89 samples (4.68%) + Class 5: 30 samples (1.58%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7874 +covertype_test_precision 5% removed: 0.7898 +covertype_test_recall 5% removed: 0.7874 +covertype_test_f1-score 5% removed: 0.7861 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 969 samples (53.83%) + Class 2: 695 samples (38.61%) + Class 3: 48 samples (2.67%) + Class 4: 53 samples (2.94%) + Class 5: 18 samples (1.00%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7933 +covertype_test_precision 10% removed: 0.7944 +covertype_test_recall 10% removed: 0.7933 +covertype_test_f1-score 10% removed: 0.7918 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 849 samples (53.06%) + Class 2: 644 samples (40.25%) + Class 3: 44 samples (2.75%) + Class 4: 35 samples (2.19%) + Class 5: 13 samples (0.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.7944 +covertype_test_precision 20% removed: 0.7961 +covertype_test_recall 20% removed: 0.7944 +covertype_test_f1-score 20% removed: 0.7938 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 554 samples (55.40%) + Class 2: 396 samples (39.60%) + Class 3: 37 samples (3.70%) + Class 4: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7910 +covertype_test_precision 50% removed: 0.7901 +covertype_test_recall 50% removed: 0.7910 +covertype_test_f1-score 50% removed: 0.7891 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpredcgorb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpredcgorb/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpredcgorb/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpredcgorb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 46/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 157.77it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7577577829360962 │ +│ covertype_val_f1-score │ 0.7522371411323547 │ +│ covertype_val_loss │ 0.5973086357116699 │ +│ covertype_val_precision │ 0.7514798045158386 │ +│ covertype_val_recall │ 0.7577577829360962 │ +│ covertype_val_score │ 0.7577577829360962 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0005000000237487257 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 469.64it/s +Validation metrics: [{'covertype_val_loss': 0.5973086357116699, 'lr': 0.0005000000237487257, 'covertype_val_accuracy': 0.7577577829360962, 'covertype_val_precision': 0.7514798045158386, 'covertype_val_recall': 0.7577577829360962, 'covertype_val_f1-score': 0.7522371411323547, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7577577829360962}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 26 samples (1.30%) + Class 1: 1057 samples (52.85%) + Class 2: 689 samples (34.45%) + Class 3: 56 samples (2.80%) + Class 4: 140 samples (7.00%) + Class 5: 31 samples (1.55%) + Class 6: 1 samples (0.05%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7710000276565552 │ +│ covertype_test_f1-score │ 0.7668678164482117 │ +│ covertype_test_loss │ 0.5735478401184082 │ +│ covertype_test_precision │ 0.771196722984314 │ +│ covertype_test_recall │ 0.7710000276565552 │ +│ covertype_test_score │ 0.7710000276565552 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0005000000819563866 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 455.49it/s +Test metrics: [{'covertype_test_loss': 0.5735478401184082, 'lr': 0.0005000000819563866, 'covertype_test_accuracy': 0.7710000276565552, 'covertype_test_precision': 0.771196722984314, 'covertype_test_recall': 0.7710000276565552, 'covertype_test_f1-score': 0.7668678164482117, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7710000276565552}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 26 samples (1.37%) + Class 1: 1038 samples (54.63%) + Class 2: 682 samples (35.89%) + Class 3: 56 samples (2.95%) + Class 4: 72 samples (3.79%) + Class 5: 25 samples (1.32%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7779 +covertype_test_precision 5% removed: 0.7764 +covertype_test_recall 5% removed: 0.7779 +covertype_test_f1-score 5% removed: 0.7756 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 993 samples (55.17%) + Class 2: 671 samples (37.28%) + Class 3: 56 samples (3.11%) + Class 4: 41 samples (2.28%) + Class 5: 13 samples (0.72%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7828 +covertype_test_precision 10% removed: 0.7810 +covertype_test_recall 10% removed: 0.7828 +covertype_test_f1-score 10% removed: 0.7808 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 22 samples (1.38%) + Class 1: 863 samples (53.94%) + Class 2: 631 samples (39.44%) + Class 3: 50 samples (3.12%) + Class 4: 23 samples (1.44%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7869 +covertype_test_precision 20% removed: 0.7860 +covertype_test_recall 20% removed: 0.7869 +covertype_test_f1-score 20% removed: 0.7861 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 541 samples (54.10%) + Class 2: 404 samples (40.40%) + Class 3: 44 samples (4.40%) + Class 4: 4 samples (0.40%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7960 +covertype_test_precision 50% removed: 0.7962 +covertype_test_recall 50% removed: 0.7960 +covertype_test_f1-score 50% removed: 0.7953 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpredcgorb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpredcgorb/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpredcgorb/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpredcgorb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 158.80it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7587587833404541 │ +│ covertype_val_f1-score │ 0.7567806243896484 │ +│ covertype_val_loss │ 0.6059041023254395 │ +│ covertype_val_precision │ 0.7555169463157654 │ +│ covertype_val_recall │ 0.7587587833404541 │ +│ covertype_val_score │ 0.7587587833404541 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 245.54it/s +Validation metrics: [{'covertype_val_loss': 0.6059041023254395, 'lr': 0.0, 'covertype_val_accuracy': 0.7587587833404541, 'covertype_val_precision': 0.7555169463157654, 'covertype_val_recall': 0.7587587833404541, 'covertype_val_f1-score': 0.7567806243896484, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7587587833404541}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 36 samples (1.80%) + Class 1: 1030 samples (51.50%) + Class 2: 678 samples (33.90%) + Class 3: 66 samples (3.30%) + Class 4: 124 samples (6.20%) + Class 5: 63 samples (3.15%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7825000286102295 │ +│ covertype_test_f1-score │ 0.7826018333435059 │ +│ covertype_test_loss │ 0.5668010711669922 │ +│ covertype_test_precision │ 0.784159779548645 │ +│ covertype_test_recall │ 0.7825000286102295 │ +│ covertype_test_score │ 0.7825000286102295 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 286.84it/s +Test metrics: [{'covertype_test_loss': 0.5668010711669922, 'lr': 0.0, 'covertype_test_accuracy': 0.7825000286102295, 'covertype_test_precision': 0.784159779548645, 'covertype_test_recall': 0.7825000286102295, 'covertype_test_f1-score': 0.7826018333435059, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7825000286102295}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 36 samples (1.89%) + Class 1: 1011 samples (53.21%) + Class 2: 673 samples (35.42%) + Class 3: 66 samples (3.47%) + Class 4: 60 samples (3.16%) + Class 5: 54 samples (2.84%) +============================================================ +covertype_test_accuracy 5% removed: 0.7884 +covertype_test_precision 5% removed: 0.7897 +covertype_test_recall 5% removed: 0.7884 +covertype_test_f1-score 5% removed: 0.7886 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 32 samples (1.78%) + Class 1: 981 samples (54.50%) + Class 2: 658 samples (36.56%) + Class 3: 66 samples (3.67%) + Class 4: 35 samples (1.94%) + Class 5: 28 samples (1.56%) +============================================================ +covertype_test_accuracy 10% removed: 0.7967 +covertype_test_precision 10% removed: 0.7966 +covertype_test_recall 10% removed: 0.7967 +covertype_test_f1-score 10% removed: 0.7962 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 29 samples (1.81%) + Class 1: 864 samples (54.00%) + Class 2: 608 samples (38.00%) + Class 3: 62 samples (3.88%) + Class 4: 23 samples (1.44%) + Class 5: 14 samples (0.88%) +============================================================ +covertype_test_accuracy 20% removed: 0.7981 +covertype_test_precision 20% removed: 0.7990 +covertype_test_recall 20% removed: 0.7981 +covertype_test_f1-score 20% removed: 0.7982 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 12 samples (1.20%) + Class 1: 555 samples (55.50%) + Class 2: 374 samples (37.40%) + Class 3: 52 samples (5.20%) + Class 4: 6 samples (0.60%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7920 +covertype_test_precision 50% removed: 0.7934 +covertype_test_recall 50% removed: 0.7920 +covertype_test_f1-score 50% removed: 0.7916 +Wrote results for resnet on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/resnet_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7763±0.0061 5%: 0.7828±0.0062 10%: 0.7880±0.0081 20%: 0.7904±0.0070 50%: 0.7894±0.0096 +covertype_test_precision 0%: 0.7776±0.0069 5%: 0.7838±0.0076 10%: 0.7880±0.0087 20%: 0.7914±0.0074 50%: 0.7901±0.0105 +covertype_test_recall 0%: 0.7763±0.0061 5%: 0.7828±0.0062 10%: 0.7880±0.0081 20%: 0.7904±0.0070 50%: 0.7894±0.0096 +covertype_test_f1-score 0%: 0.7744±0.0072 5%: 0.7818±0.0068 10%: 0.7867±0.0086 20%: 0.7899±0.0072 50%: 0.7886±0.0094 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'autoint'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpgrkek_kf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpgrkek_kf/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpgrkek_kf/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpgrkek_kf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 37/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 100.74it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7547547817230225 │ +│ covertype_val_f1-score │ 0.7545574307441711 │ +│ covertype_val_loss │ 0.6178074479103088 │ +│ covertype_val_precision │ 0.7574616074562073 │ +│ covertype_val_recall │ 0.7547547817230225 │ +│ covertype_val_score │ 0.7547547817230225 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.00013551570009440184 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 195.10it/s +Validation metrics: [{'covertype_val_loss': 0.6178074479103088, 'lr': 0.00013551570009440184, 'covertype_val_accuracy': 0.7547547817230225, 'covertype_val_precision': 0.7574616074562073, 'covertype_val_recall': 0.7547547817230225, 'covertype_val_f1-score': 0.7545574307441711, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7547547817230225}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 25 samples (1.25%) + Class 1: 993 samples (49.65%) + Class 2: 722 samples (36.10%) + Class 3: 68 samples (3.40%) + Class 4: 131 samples (6.55%) + Class 5: 56 samples (2.80%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7444999814033508 │ +│ covertype_test_f1-score │ 0.743881106376648 │ +│ covertype_test_loss │ 0.6022867560386658 │ +│ covertype_test_precision │ 0.7445837259292603 │ +│ covertype_test_recall │ 0.7444999814033508 │ +│ covertype_test_score │ 0.7444999814033508 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0001355156855424866 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 193.09it/s +Test metrics: [{'covertype_test_loss': 0.6022867560386658, 'lr': 0.0001355156855424866, 'covertype_test_accuracy': 0.7444999814033508, 'covertype_test_precision': 0.7445837259292603, 'covertype_test_recall': 0.7444999814033508, 'covertype_test_f1-score': 0.743881106376648, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7444999814033508}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 25 samples (1.32%) + Class 1: 970 samples (51.05%) + Class 2: 718 samples (37.79%) + Class 3: 68 samples (3.58%) + Class 4: 69 samples (3.63%) + Class 5: 49 samples (2.58%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7505 +covertype_test_precision 5% removed: 0.7524 +covertype_test_recall 5% removed: 0.7505 +covertype_test_f1-score 5% removed: 0.7506 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 23 samples (1.28%) + Class 1: 940 samples (52.22%) + Class 2: 703 samples (39.06%) + Class 3: 68 samples (3.78%) + Class 4: 39 samples (2.17%) + Class 5: 26 samples (1.44%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7561 +covertype_test_precision 10% removed: 0.7561 +covertype_test_recall 10% removed: 0.7561 +covertype_test_f1-score 10% removed: 0.7555 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 19 samples (1.19%) + Class 1: 828 samples (51.75%) + Class 2: 653 samples (40.81%) + Class 3: 62 samples (3.88%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.7575 +covertype_test_precision 20% removed: 0.7568 +covertype_test_recall 20% removed: 0.7575 +covertype_test_f1-score 20% removed: 0.7569 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 536 samples (53.60%) + Class 2: 399 samples (39.90%) + Class 3: 54 samples (5.40%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7740 +covertype_test_precision 50% removed: 0.7707 +covertype_test_recall 50% removed: 0.7740 +covertype_test_f1-score 50% removed: 0.7719 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpgrkek_kf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpgrkek_kf/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpgrkek_kf/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpgrkek_kf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 91.85it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7517517805099487 │ +│ covertype_val_f1-score │ 0.7493082284927368 │ +│ covertype_val_loss │ 0.6077384352684021 │ +│ covertype_val_precision │ 0.751510739326477 │ +│ covertype_val_recall │ 0.7517517805099487 │ +│ covertype_val_score │ 0.7517517805099487 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 114.55it/s +Validation metrics: [{'covertype_val_loss': 0.6077384352684021, 'lr': 0.0, 'covertype_val_accuracy': 0.7517517805099487, 'covertype_val_precision': 0.751510739326477, 'covertype_val_recall': 0.7517517805099487, 'covertype_val_f1-score': 0.7493082284927368, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7517517805099487}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 20 samples (1.00%) + Class 1: 979 samples (48.95%) + Class 2: 756 samples (37.80%) + Class 3: 55 samples (2.75%) + Class 4: 131 samples (6.55%) + Class 5: 54 samples (2.70%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7570000290870667 │ +│ covertype_test_f1-score │ 0.7556409239768982 │ +│ covertype_test_loss │ 0.591467022895813 │ +│ covertype_test_precision │ 0.7570039629936218 │ +│ covertype_test_recall │ 0.7570000290870667 │ +│ covertype_test_score │ 0.7570000290870667 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 192.56it/s +Test metrics: [{'covertype_test_loss': 0.591467022895813, 'lr': 0.0, 'covertype_test_accuracy': 0.7570000290870667, 'covertype_test_precision': 0.7570039629936218, 'covertype_test_recall': 0.7570000290870667, 'covertype_test_f1-score': 0.7556409239768982, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7570000290870667}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 20 samples (1.05%) + Class 1: 960 samples (50.53%) + Class 2: 751 samples (39.53%) + Class 3: 55 samples (2.89%) + Class 4: 69 samples (3.63%) + Class 5: 45 samples (2.37%) +============================================================ +covertype_test_accuracy 5% removed: 0.7616 +covertype_test_precision 5% removed: 0.7610 +covertype_test_recall 5% removed: 0.7616 +covertype_test_f1-score 5% removed: 0.7603 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 19 samples (1.06%) + Class 1: 926 samples (51.44%) + Class 2: 735 samples (40.83%) + Class 3: 55 samples (3.06%) + Class 4: 39 samples (2.17%) + Class 5: 26 samples (1.44%) +============================================================ +covertype_test_accuracy 10% removed: 0.7650 +covertype_test_precision 10% removed: 0.7637 +covertype_test_recall 10% removed: 0.7650 +covertype_test_f1-score 10% removed: 0.7635 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 16 samples (1.00%) + Class 1: 811 samples (50.69%) + Class 2: 685 samples (42.81%) + Class 3: 50 samples (3.12%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +============================================================ +covertype_test_accuracy 20% removed: 0.7669 +covertype_test_precision 20% removed: 0.7672 +covertype_test_recall 20% removed: 0.7669 +covertype_test_f1-score 20% removed: 0.7661 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 513 samples (51.30%) + Class 2: 431 samples (43.10%) + Class 3: 44 samples (4.40%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7760 +covertype_test_precision 50% removed: 0.7755 +covertype_test_recall 50% removed: 0.7760 +covertype_test_f1-score 50% removed: 0.7751 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpgrkek_kf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpgrkek_kf/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpgrkek_kf/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpgrkek_kf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 45/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 83.12it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7467467188835144 │ +│ covertype_val_f1-score │ 0.7441520690917969 │ +│ covertype_val_loss │ 0.6121839880943298 │ +│ covertype_val_precision │ 0.7483325600624084 │ +│ covertype_val_recall │ 0.7467467188835144 │ +│ covertype_val_score │ 0.7467467188835144 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 1.5708421415183693e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 146.60it/s +Validation metrics: [{'covertype_val_loss': 0.6121839880943298, 'lr': 1.5708421415183693e-05, 'covertype_val_accuracy': 0.7467467188835144, 'covertype_val_precision': 0.7483325600624084, 'covertype_val_recall': 0.7467467188835144, 'covertype_val_f1-score': 0.7441520690917969, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7467467188835144}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 1019 samples (50.95%) + Class 2: 719 samples (35.95%) + Class 3: 61 samples (3.05%) + Class 4: 128 samples (6.40%) + Class 5: 50 samples (2.50%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7565000057220459 │ +│ covertype_test_f1-score │ 0.7545872926712036 │ +│ covertype_test_loss │ 0.5699637532234192 │ +│ covertype_test_precision │ 0.75496906042099 │ +│ covertype_test_recall │ 0.7565000057220459 │ +│ covertype_test_score │ 0.7565000057220459 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 1.5708415958215483e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 166.11it/s +Test metrics: [{'covertype_test_loss': 0.5699637532234192, 'lr': 1.5708415958215483e-05, 'covertype_test_accuracy': 0.7565000057220459, 'covertype_test_precision': 0.75496906042099, 'covertype_test_recall': 0.7565000057220459, 'covertype_test_f1-score': 0.7545872926712036, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7565000057220459}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 998 samples (52.53%) + Class 2: 713 samples (37.53%) + Class 3: 61 samples (3.21%) + Class 4: 64 samples (3.37%) + Class 5: 44 samples (2.32%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7626 +covertype_test_precision 5% removed: 0.7623 +covertype_test_recall 5% removed: 0.7626 +covertype_test_f1-score 5% removed: 0.7617 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 965 samples (53.61%) + Class 2: 695 samples (38.61%) + Class 3: 61 samples (3.39%) + Class 4: 38 samples (2.11%) + Class 5: 23 samples (1.28%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7694 +covertype_test_precision 10% removed: 0.7680 +covertype_test_recall 10% removed: 0.7694 +covertype_test_f1-score 10% removed: 0.7679 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 846 samples (52.88%) + Class 2: 646 samples (40.38%) + Class 3: 56 samples (3.50%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7694 +covertype_test_precision 20% removed: 0.7682 +covertype_test_recall 20% removed: 0.7694 +covertype_test_f1-score 20% removed: 0.7683 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 547 samples (54.70%) + Class 2: 394 samples (39.40%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7760 +covertype_test_precision 50% removed: 0.7723 +covertype_test_recall 50% removed: 0.7760 +covertype_test_f1-score 50% removed: 0.7736 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpgrkek_kf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpgrkek_kf/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpgrkek_kf/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpgrkek_kf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 110.50it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7457457184791565 │ +│ covertype_val_f1-score │ 0.7427104711532593 │ +│ covertype_val_loss │ 0.6127902269363403 │ +│ covertype_val_precision │ 0.740750253200531 │ +│ covertype_val_recall │ 0.7457457184791565 │ +│ covertype_val_score │ 0.7457457184791565 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 201.76it/s +Validation metrics: [{'covertype_val_loss': 0.6127902269363403, 'lr': 0.0, 'covertype_val_accuracy': 0.7457457184791565, 'covertype_val_precision': 0.740750253200531, 'covertype_val_recall': 0.7457457184791565, 'covertype_val_f1-score': 0.7427104711532593, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7457457184791565}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 1017 samples (50.85%) + Class 2: 717 samples (35.85%) + Class 3: 58 samples (2.90%) + Class 4: 125 samples (6.25%) + Class 5: 61 samples (3.05%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7584999799728394 │ +│ covertype_test_f1-score │ 0.7568243145942688 │ +│ covertype_test_loss │ 0.5857819318771362 │ +│ covertype_test_precision │ 0.7571547031402588 │ +│ covertype_test_recall │ 0.7584999799728394 │ +│ covertype_test_score │ 0.7584999799728394 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 195.42it/s +Test metrics: [{'covertype_test_loss': 0.5857819318771362, 'lr': 0.0, 'covertype_test_accuracy': 0.7584999799728394, 'covertype_test_precision': 0.7571547031402588, 'covertype_test_recall': 0.7584999799728394, 'covertype_test_f1-score': 0.7568243145942688, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7584999799728394}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 19 samples (1.00%) + Class 1: 995 samples (52.37%) + Class 2: 712 samples (37.47%) + Class 3: 58 samples (3.05%) + Class 4: 62 samples (3.26%) + Class 5: 54 samples (2.84%) +============================================================ +covertype_test_accuracy 5% removed: 0.7621 +covertype_test_precision 5% removed: 0.7607 +covertype_test_recall 5% removed: 0.7621 +covertype_test_f1-score 5% removed: 0.7607 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 18 samples (1.00%) + Class 1: 959 samples (53.28%) + Class 2: 697 samples (38.72%) + Class 3: 58 samples (3.22%) + Class 4: 44 samples (2.44%) + Class 5: 24 samples (1.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.7656 +covertype_test_precision 10% removed: 0.7628 +covertype_test_recall 10% removed: 0.7656 +covertype_test_f1-score 10% removed: 0.7637 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 847 samples (52.94%) + Class 2: 645 samples (40.31%) + Class 3: 54 samples (3.38%) + Class 4: 29 samples (1.81%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7694 +covertype_test_precision 20% removed: 0.7677 +covertype_test_recall 20% removed: 0.7694 +covertype_test_f1-score 20% removed: 0.7681 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 548 samples (54.80%) + Class 2: 394 samples (39.40%) + Class 3: 48 samples (4.80%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7810 +covertype_test_precision 50% removed: 0.7773 +covertype_test_recall 50% removed: 0.7810 +covertype_test_f1-score 50% removed: 0.7784 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpgrkek_kf/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpgrkek_kf/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpgrkek_kf/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpgrkek_kf/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 46/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 90.01it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7527527809143066 │ +│ covertype_val_f1-score │ 0.7482908964157104 │ +│ covertype_val_loss │ 0.6006751656532288 │ +│ covertype_val_precision │ 0.7474586963653564 │ +│ covertype_val_recall │ 0.7527527809143066 │ +│ covertype_val_score │ 0.7527527809143066 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 177.03it/s +Validation metrics: [{'covertype_val_loss': 0.6006751656532288, 'lr': 8.856373824528418e-06, 'covertype_val_accuracy': 0.7527527809143066, 'covertype_val_precision': 0.7474586963653564, 'covertype_val_recall': 0.7527527809143066, 'covertype_val_f1-score': 0.7482908964157104, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7527527809143066}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 992 samples (49.60%) + Class 2: 740 samples (37.00%) + Class 3: 59 samples (2.95%) + Class 4: 122 samples (6.10%) + Class 5: 64 samples (3.20%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7540000081062317 │ +│ covertype_test_f1-score │ 0.7530376315116882 │ +│ covertype_test_loss │ 0.6002067923545837 │ +│ covertype_test_precision │ 0.7541068196296692 │ +│ covertype_test_recall │ 0.7540000081062317 │ +│ covertype_test_score │ 0.7540000081062317 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 174.17it/s +Test metrics: [{'covertype_test_loss': 0.6002067923545837, 'lr': 8.856373824528418e-06, 'covertype_test_accuracy': 0.7540000081062317, 'covertype_test_precision': 0.7541068196296692, 'covertype_test_recall': 0.7540000081062317, 'covertype_test_f1-score': 0.7530376315116882, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7540000081062317}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 19 samples (1.00%) + Class 1: 968 samples (50.95%) + Class 2: 736 samples (38.74%) + Class 3: 59 samples (3.11%) + Class 4: 60 samples (3.16%) + Class 5: 57 samples (3.00%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7563 +covertype_test_precision 5% removed: 0.7585 +covertype_test_recall 5% removed: 0.7563 +covertype_test_f1-score 5% removed: 0.7558 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 932 samples (51.78%) + Class 2: 721 samples (40.06%) + Class 3: 59 samples (3.28%) + Class 4: 39 samples (2.17%) + Class 5: 31 samples (1.72%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7600 +covertype_test_precision 10% removed: 0.7611 +covertype_test_recall 10% removed: 0.7600 +covertype_test_f1-score 10% removed: 0.7593 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 817 samples (51.06%) + Class 2: 672 samples (42.00%) + Class 3: 54 samples (3.38%) + Class 4: 25 samples (1.56%) + Class 5: 17 samples (1.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7613 +covertype_test_precision 20% removed: 0.7622 +covertype_test_recall 20% removed: 0.7613 +covertype_test_f1-score 20% removed: 0.7608 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 519 samples (51.90%) + Class 2: 426 samples (42.60%) + Class 3: 44 samples (4.40%) + Class 4: 5 samples (0.50%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7640 +covertype_test_precision 50% removed: 0.7634 +covertype_test_recall 50% removed: 0.7640 +covertype_test_f1-score 50% removed: 0.7629 +Wrote results for autoint on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/autoint_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7541±0.0070 5%: 0.7586±0.0064 10%: 0.7632±0.0065 20%: 0.7649±0.0066 50%: 0.7742±0.0078 +covertype_test_precision 0%: 0.7536±0.0064 5%: 0.7590±0.0049 10%: 0.7623±0.0054 20%: 0.7644±0.0061 50%: 0.7718±0.0067 +covertype_test_recall 0%: 0.7541±0.0070 5%: 0.7586±0.0064 10%: 0.7632±0.0065 20%: 0.7649±0.0066 50%: 0.7742±0.0078 +covertype_test_f1-score 0%: 0.7528±0.0064 5%: 0.7578±0.0057 10%: 0.7620±0.0059 20%: 0.7640±0.0062 50%: 0.7724±0.0072 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'fttransformer'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmputhz96ag/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmputhz96ag/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmputhz96ag/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmputhz96ag/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 71.88it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7387387156486511 │ +│ covertype_val_f1-score │ 0.73126620054245 │ +│ covertype_val_loss │ 0.5976532697677612 │ +│ covertype_val_precision │ 0.7335994243621826 │ +│ covertype_val_recall │ 0.7387387156486511 │ +│ covertype_val_score │ 0.7387387156486511 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 132.18it/s +Validation metrics: [{'covertype_val_loss': 0.5976532697677612, 'lr': 0.0, 'covertype_val_accuracy': 0.7387387156486511, 'covertype_val_precision': 0.7335994243621826, 'covertype_val_recall': 0.7387387156486511, 'covertype_val_f1-score': 0.73126620054245, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7387387156486511}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 7 samples (0.35%) + Class 1: 986 samples (49.30%) + Class 2: 763 samples (38.15%) + Class 3: 57 samples (2.85%) + Class 4: 149 samples (7.45%) + Class 5: 35 samples (1.75%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7515000104904175 │ +│ covertype_test_f1-score │ 0.7460448741912842 │ +│ covertype_test_loss │ 0.5873015522956848 │ +│ covertype_test_precision │ 0.7509965896606445 │ +│ covertype_test_recall │ 0.7515000104904175 │ +│ covertype_test_score │ 0.7515000104904175 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 148.53it/s +Test metrics: [{'covertype_test_loss': 0.5873015522956848, 'lr': 0.0, 'covertype_test_accuracy': 0.7515000104904175, 'covertype_test_precision': 0.7509965896606445, 'covertype_test_recall': 0.7515000104904175, 'covertype_test_f1-score': 0.7460448741912842, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7515000104904175}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 7 samples (0.37%) + Class 1: 964 samples (50.74%) + Class 2: 759 samples (39.95%) + Class 3: 57 samples (3.00%) + Class 4: 80 samples (4.21%) + Class 5: 33 samples (1.74%) +============================================================ +covertype_test_accuracy 5% removed: 0.7589 +covertype_test_precision 5% removed: 0.7579 +covertype_test_recall 5% removed: 0.7589 +covertype_test_f1-score 5% removed: 0.7550 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 7 samples (0.39%) + Class 1: 932 samples (51.78%) + Class 2: 743 samples (41.28%) + Class 3: 57 samples (3.17%) + Class 4: 42 samples (2.33%) + Class 5: 19 samples (1.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7633 +covertype_test_precision 10% removed: 0.7614 +covertype_test_recall 10% removed: 0.7633 +covertype_test_f1-score 10% removed: 0.7593 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 6 samples (0.38%) + Class 1: 813 samples (50.81%) + Class 2: 693 samples (43.31%) + Class 3: 52 samples (3.25%) + Class 4: 27 samples (1.69%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7650 +covertype_test_precision 20% removed: 0.7661 +covertype_test_recall 20% removed: 0.7650 +covertype_test_f1-score 20% removed: 0.7623 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 517 samples (51.70%) + Class 2: 428 samples (42.80%) + Class 3: 46 samples (4.60%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7770 +covertype_test_precision 50% removed: 0.7756 +covertype_test_recall 50% removed: 0.7770 +covertype_test_f1-score 50% removed: 0.7753 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmputhz96ag/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmputhz96ag/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmputhz96ag/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmputhz96ag/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 58.29it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7587587833404541 │ +│ covertype_val_f1-score │ 0.751605212688446 │ +│ covertype_val_loss │ 0.5960667133331299 │ +│ covertype_val_precision │ 0.7543796896934509 │ +│ covertype_val_recall │ 0.7587587833404541 │ +│ covertype_val_score │ 0.7587587833404541 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 99.26it/s +Validation metrics: [{'covertype_val_loss': 0.5960667133331299, 'lr': 0.0, 'covertype_val_accuracy': 0.7587587833404541, 'covertype_val_precision': 0.7543796896934509, 'covertype_val_recall': 0.7587587833404541, 'covertype_val_f1-score': 0.751605212688446, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7587587833404541}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 994 samples (49.70%) + Class 2: 752 samples (37.60%) + Class 3: 54 samples (2.70%) + Class 4: 135 samples (6.75%) + Class 5: 45 samples (2.25%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7555000185966492 │ +│ covertype_test_f1-score │ 0.7534160614013672 │ +│ covertype_test_loss │ 0.5770994424819946 │ +│ covertype_test_precision │ 0.7564229369163513 │ +│ covertype_test_recall │ 0.7555000185966492 │ +│ covertype_test_score │ 0.7555000185966492 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 120.12it/s +Test metrics: [{'covertype_test_loss': 0.5770994424819946, 'lr': 0.0, 'covertype_test_accuracy': 0.7555000185966492, 'covertype_test_precision': 0.7564229369163513, 'covertype_test_recall': 0.7555000185966492, 'covertype_test_f1-score': 0.7534160614013672, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7555000185966492}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 972 samples (51.16%) + Class 2: 748 samples (39.37%) + Class 3: 54 samples (2.84%) + Class 4: 69 samples (3.63%) + Class 5: 42 samples (2.21%) +============================================================ +covertype_test_accuracy 5% removed: 0.7616 +covertype_test_precision 5% removed: 0.7625 +covertype_test_recall 5% removed: 0.7616 +covertype_test_f1-score 5% removed: 0.7602 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 941 samples (52.28%) + Class 2: 732 samples (40.67%) + Class 3: 54 samples (3.00%) + Class 4: 42 samples (2.33%) + Class 5: 18 samples (1.00%) +============================================================ +covertype_test_accuracy 10% removed: 0.7650 +covertype_test_precision 10% removed: 0.7650 +covertype_test_recall 10% removed: 0.7650 +covertype_test_f1-score 10% removed: 0.7629 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 822 samples (51.38%) + Class 2: 681 samples (42.56%) + Class 3: 50 samples (3.12%) + Class 4: 28 samples (1.75%) + Class 5: 6 samples (0.38%) +============================================================ +covertype_test_accuracy 20% removed: 0.7656 +covertype_test_precision 20% removed: 0.7675 +covertype_test_recall 20% removed: 0.7656 +covertype_test_f1-score 20% removed: 0.7646 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 525 samples (52.50%) + Class 2: 424 samples (42.40%) + Class 3: 42 samples (4.20%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7750 +covertype_test_precision 50% removed: 0.7751 +covertype_test_recall 50% removed: 0.7750 +covertype_test_f1-score 50% removed: 0.7736 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmputhz96ag/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmputhz96ag/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmputhz96ag/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmputhz96ag/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 67.21it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7467467188835144 │ +│ covertype_val_f1-score │ 0.7414686679840088 │ +│ covertype_val_loss │ 0.5960635542869568 │ +│ covertype_val_precision │ 0.7440976500511169 │ +│ covertype_val_recall │ 0.7467467188835144 │ +│ covertype_val_score │ 0.7467467188835144 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 148.25it/s +Validation metrics: [{'covertype_val_loss': 0.5960635542869568, 'lr': 0.0, 'covertype_val_accuracy': 0.7467467188835144, 'covertype_val_precision': 0.7440976500511169, 'covertype_val_recall': 0.7467467188835144, 'covertype_val_f1-score': 0.7414686679840088, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7467467188835144}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 12 samples (0.60%) + Class 1: 1018 samples (50.90%) + Class 2: 723 samples (36.15%) + Class 3: 58 samples (2.90%) + Class 4: 145 samples (7.25%) + Class 5: 41 samples (2.05%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7570000290870667 │ +│ covertype_test_f1-score │ 0.75355064868927 │ +│ covertype_test_loss │ 0.5763242840766907 │ +│ covertype_test_precision │ 0.7570008039474487 │ +│ covertype_test_recall │ 0.7570000290870667 │ +│ covertype_test_score │ 0.7570000290870667 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 145.44it/s +Test metrics: [{'covertype_test_loss': 0.5763242840766907, 'lr': 0.0, 'covertype_test_accuracy': 0.7570000290870667, 'covertype_test_precision': 0.7570008039474487, 'covertype_test_recall': 0.7570000290870667, 'covertype_test_f1-score': 0.75355064868927, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7570000290870667}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 12 samples (0.63%) + Class 1: 998 samples (52.53%) + Class 2: 719 samples (37.84%) + Class 3: 58 samples (3.05%) + Class 4: 75 samples (3.95%) + Class 5: 38 samples (2.00%) +============================================================ +covertype_test_accuracy 5% removed: 0.7632 +covertype_test_precision 5% removed: 0.7620 +covertype_test_recall 5% removed: 0.7632 +covertype_test_f1-score 5% removed: 0.7607 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 12 samples (0.67%) + Class 1: 970 samples (53.89%) + Class 2: 700 samples (38.89%) + Class 3: 58 samples (3.22%) + Class 4: 44 samples (2.44%) + Class 5: 16 samples (0.89%) +============================================================ +covertype_test_accuracy 10% removed: 0.7678 +covertype_test_precision 10% removed: 0.7652 +covertype_test_recall 10% removed: 0.7678 +covertype_test_f1-score 10% removed: 0.7647 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 845 samples (52.81%) + Class 2: 655 samples (40.94%) + Class 3: 53 samples (3.31%) + Class 4: 29 samples (1.81%) + Class 5: 6 samples (0.38%) +============================================================ +covertype_test_accuracy 20% removed: 0.7706 +covertype_test_precision 20% removed: 0.7703 +covertype_test_recall 20% removed: 0.7706 +covertype_test_f1-score 20% removed: 0.7689 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 540 samples (54.00%) + Class 2: 403 samples (40.30%) + Class 3: 46 samples (4.60%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7820 +covertype_test_precision 50% removed: 0.7809 +covertype_test_recall 50% removed: 0.7820 +covertype_test_f1-score 50% removed: 0.7808 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmputhz96ag/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmputhz96ag/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmputhz96ag/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmputhz96ag/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 61.55it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7547547817230225 │ +│ covertype_val_f1-score │ 0.7477404475212097 │ +│ covertype_val_loss │ 0.6087440252304077 │ +│ covertype_val_precision │ 0.7486427426338196 │ +│ covertype_val_recall │ 0.7547547817230225 │ +│ covertype_val_score │ 0.7547547817230225 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 138.03it/s +Validation metrics: [{'covertype_val_loss': 0.6087440252304077, 'lr': 0.0, 'covertype_val_accuracy': 0.7547547817230225, 'covertype_val_precision': 0.7486427426338196, 'covertype_val_recall': 0.7547547817230225, 'covertype_val_f1-score': 0.7477404475212097, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7547547817230225}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 10 samples (0.50%) + Class 1: 985 samples (49.25%) + Class 2: 757 samples (37.85%) + Class 3: 52 samples (2.60%) + Class 4: 144 samples (7.20%) + Class 5: 47 samples (2.35%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7620000243186951 │ +│ covertype_test_f1-score │ 0.7585028409957886 │ +│ covertype_test_loss │ 0.5679118633270264 │ +│ covertype_test_precision │ 0.7615678310394287 │ +│ covertype_test_recall │ 0.7620000243186951 │ +│ covertype_test_score │ 0.7620000243186951 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 78.47it/s +Test metrics: [{'covertype_test_loss': 0.5679118633270264, 'lr': 0.0, 'covertype_test_accuracy': 0.7620000243186951, 'covertype_test_precision': 0.7615678310394287, 'covertype_test_recall': 0.7620000243186951, 'covertype_test_f1-score': 0.7585028409957886, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7620000243186951}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 10 samples (0.53%) + Class 1: 966 samples (50.84%) + Class 2: 753 samples (39.63%) + Class 3: 52 samples (2.74%) + Class 4: 75 samples (3.95%) + Class 5: 44 samples (2.32%) +============================================================ +covertype_test_accuracy 5% removed: 0.7679 +covertype_test_precision 5% removed: 0.7672 +covertype_test_recall 5% removed: 0.7679 +covertype_test_f1-score 5% removed: 0.7651 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 10 samples (0.56%) + Class 1: 936 samples (52.00%) + Class 2: 737 samples (40.94%) + Class 3: 52 samples (2.89%) + Class 4: 44 samples (2.44%) + Class 5: 21 samples (1.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7728 +covertype_test_precision 10% removed: 0.7706 +covertype_test_recall 10% removed: 0.7728 +covertype_test_f1-score 10% removed: 0.7695 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 816 samples (51.00%) + Class 2: 691 samples (43.19%) + Class 3: 47 samples (2.94%) + Class 4: 29 samples (1.81%) + Class 5: 8 samples (0.50%) +============================================================ +covertype_test_accuracy 20% removed: 0.7788 +covertype_test_precision 20% removed: 0.7788 +covertype_test_recall 20% removed: 0.7788 +covertype_test_f1-score 20% removed: 0.7764 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 517 samples (51.70%) + Class 2: 431 samples (43.10%) + Class 3: 42 samples (4.20%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7910 +covertype_test_precision 50% removed: 0.7899 +covertype_test_recall 50% removed: 0.7910 +covertype_test_f1-score 50% removed: 0.7894 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmputhz96ag/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmputhz96ag/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmputhz96ag/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmputhz96ag/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 67.76it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7527527809143066 │ +│ covertype_val_f1-score │ 0.7463156580924988 │ +│ covertype_val_loss │ 0.582597553730011 │ +│ covertype_val_precision │ 0.7491756081581116 │ +│ covertype_val_recall │ 0.7527527809143066 │ +│ covertype_val_score │ 0.7527527809143066 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 94.11it/s +Validation metrics: [{'covertype_val_loss': 0.582597553730011, 'lr': 0.0, 'covertype_val_accuracy': 0.7527527809143066, 'covertype_val_precision': 0.7491756081581116, 'covertype_val_recall': 0.7527527809143066, 'covertype_val_f1-score': 0.7463156580924988, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7527527809143066}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 11 samples (0.55%) + Class 1: 1004 samples (50.20%) + Class 2: 732 samples (36.60%) + Class 3: 55 samples (2.75%) + Class 4: 151 samples (7.55%) + Class 5: 43 samples (2.15%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7574999928474426 │ +│ covertype_test_f1-score │ 0.7545973062515259 │ +│ covertype_test_loss │ 0.5770056843757629 │ +│ covertype_test_precision │ 0.7593384981155396 │ +│ covertype_test_recall │ 0.7574999928474426 │ +│ covertype_test_score │ 0.7574999928474426 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 141.20it/s +Test metrics: [{'covertype_test_loss': 0.5770056843757629, 'lr': 0.0, 'covertype_test_accuracy': 0.7574999928474426, 'covertype_test_precision': 0.7593384981155396, 'covertype_test_recall': 0.7574999928474426, 'covertype_test_f1-score': 0.7545973062515259, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7574999928474426}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 64 samples (3.37%) + Class 4: 63 samples (3.32%) + Class 5: 40 samples (2.11%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 11 samples (0.58%) + Class 1: 983 samples (51.74%) + Class 2: 728 samples (38.32%) + Class 3: 55 samples (2.89%) + Class 4: 83 samples (4.37%) + Class 5: 39 samples (2.05%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7647 +covertype_test_precision 5% removed: 0.7679 +covertype_test_recall 5% removed: 0.7647 +covertype_test_f1-score 5% removed: 0.7632 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 955 samples (53.06%) + Class 2: 687 samples (38.17%) + Class 3: 63 samples (3.50%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 10 samples (0.56%) + Class 1: 954 samples (53.00%) + Class 2: 713 samples (39.61%) + Class 3: 55 samples (3.06%) + Class 4: 49 samples (2.72%) + Class 5: 18 samples (1.00%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7711 +covertype_test_precision 10% removed: 0.7717 +covertype_test_recall 10% removed: 0.7711 +covertype_test_f1-score 10% removed: 0.7686 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.56%) + Class 1: 840 samples (52.50%) + Class 2: 638 samples (39.88%) + Class 3: 59 samples (3.69%) + Class 4: 26 samples (1.62%) + Class 5: 12 samples (0.75%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 836 samples (52.25%) + Class 2: 663 samples (41.44%) + Class 3: 51 samples (3.19%) + Class 4: 34 samples (2.12%) + Class 5: 7 samples (0.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7725 +covertype_test_precision 20% removed: 0.7742 +covertype_test_recall 20% removed: 0.7725 +covertype_test_f1-score 20% removed: 0.7708 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 528 samples (52.80%) + Class 2: 408 samples (40.80%) + Class 3: 49 samples (4.90%) + Class 4: 3 samples (0.30%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 543 samples (54.30%) + Class 2: 406 samples (40.60%) + Class 3: 42 samples (4.20%) + Class 4: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7850 +covertype_test_precision 50% removed: 0.7822 +covertype_test_recall 50% removed: 0.7850 +covertype_test_f1-score 50% removed: 0.7825 +Wrote results for fttransformer on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/fttransformer_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7567±0.0047 5%: 0.7633±0.0042 10%: 0.7680±0.0049 20%: 0.7705±0.0070 50%: 0.7820±0.0079 +covertype_test_precision 0%: 0.7571±0.0049 5%: 0.7635±0.0051 10%: 0.7668±0.0053 20%: 0.7714±0.0064 50%: 0.7807±0.0075 +covertype_test_recall 0%: 0.7567±0.0047 5%: 0.7633±0.0042 10%: 0.7680±0.0049 20%: 0.7705±0.0070 50%: 0.7820±0.0079 +covertype_test_f1-score 0%: 0.7532±0.0056 5%: 0.7608±0.0048 10%: 0.7650±0.0052 20%: 0.7686±0.0068 50%: 0.7803±0.0078 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'xgboost'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=xgboost --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy --use_split_assignments=True --exp_train_total_epochs=1 --split_config_file=/tmp/tmp7bwjy5kt/split_data/split_config.json --sigma_aggregation=mean --n_estimators=100 --max_depth=3 --learning_rate=0.1 --subsample=1.0 --colsample_bytree=1.0 --reg_alpha=0.0 --reg_lambda=1.0 --n_jobs=-1 --random_state=42 --encoder_type=linear_flatten --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp7bwjy5kt/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 64 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ -1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.0001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ xgboost │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp7bwjy5kt/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp7bwjy5kt/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 1e-05 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: xgboost + +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +XGBoostLightning [1, 3456] [1, 3456] -- -- -- +===================================================================================================================================================================== +Total params: 0 +Trainable params: 0 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 0 +===================================================================================================================================================================== +Input size (MB): 0.01 +Forward/backward pass size (MB): 0.00 +Params size (MB): 0.00 +Estimated Total Size (MB): 0.01 +===================================================================================================================================================================== +GPU available: True (cuda), used: False +TPU available: False, using: 0 TPU cores +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/setup.py:175: GPU available but not used. You can set it by doing `Trainer(accelerator='gpu')`. +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1)` was configured so 1 batch per epoch will be used. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/core/optimizer.py:183: `LightningModule.configure_optimizers` returned `None`, this fit will run with no optimizer +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Identity │ 0 │ train │ 0 │ +│ 2 │ encoder │ Identity │ 0 │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 0 +Non-trainable params: 0 +Total params: 0 +Total estimated model params size (MB): 0.000 +Modules in train mode: 3 +Modules in eval mode: 0 +Total FLOPs: 0 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue6-gpu3-kl3e-6.exit_code b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue6-gpu3-kl3e-6.exit_code new file mode 100644 index 0000000000000000000000000000000000000000..0cfbf08886fca9a91cb753ec8734c84fcbe52c9f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue6-gpu3-kl3e-6.exit_code @@ -0,0 +1 @@ +2 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue6-gpu3-kl3e-6.log b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue6-gpu3-kl3e-6.log new file mode 100644 index 0000000000000000000000000000000000000000..1f1d855fcc674ac8311ded16fc08565768f80dd1 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue6-gpu3-kl3e-6.log @@ -0,0 +1,16889 @@ +[2026-09-17T16:46:30+00:00] tag=queue6-gpu3-kl3e-6 gpu=3 dataset=covertype predictive_kl_end=0.000003 full=0.001875 sx=0.00075 +{ + "dataset": "covertype", + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "3e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} +Not SLURM job. +╒══════════════════════════════════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ mock │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ activation_checkpointing │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ deterministic_mode │ warn │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pre_evaluation │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 512 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 500 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ improvement │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_val_cache_cadence │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ init_type │ trunc_normal │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_start_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_lr │ 0.0005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 12 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_ipe_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_gradient_clipping │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_type_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_index_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dropout_prob │ 0.0015 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_hidden │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_feedforward │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_heads │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_layers │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_act_func │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_cadence │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_model │ linear_probe │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ n_cls_tokens │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_type │ transformer │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_layers │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_embed_dim │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_heads │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_p_dropout │ 0.002 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_activation │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_dim_feedforward │ 256 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_allow_overlap │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_ctx_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_ctx_share │ 0.35 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_trgt_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_trgt_share │ 0.6 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_preds │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_encs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mu_init_std │ 0.03 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_std │ 0.005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_bias │ -4.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_x_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_y_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_evaluation_epochs │ 50 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_probe_patience │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_representation_type │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_encoder_type │ target_posterior │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_target_posterior │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_auxiliary_encoder │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_end_weight │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_end_weight │ 3e-06 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_annealing_epochs │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_x_weight │ 0.001 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_y_weight │ 0.5 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ latent_architecture │ stochastic │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ jepa_objective │ w_jepa_joint │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_full_num_projections │ 2048 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_marginal_num_projections │ 1024 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_p │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_include_marginals │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_x_weight │ 0.00075 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_z_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_y_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_end_weight │ 0.001875 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ safe_exit │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_selection │ filtered_20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sigma_aggregation │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ subset_size │ -1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ is_batchlearning │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ iteration │ 0 │ +╘══════════════════════════════════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════╛ + +CUDA Device Information: +CUDA_VISIBLE_DEVICES: 3 +Number of CUDA devices: 1 +Current CUDA device: 0 +CUDA device name: NVIDIA A100-SXM4-80GB + +Using device: cuda:0 +Device name: NVIDIA A100-SXM4-80GB +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +VariationalTJEPA parameters: ++-------------------------+---------+ +| Parameter | Value | ++=========================+=========+ +| hidden_dim | 64 | ++-------------------------+---------+ +| num_layers | 8 | ++-------------------------+---------+ +| num_heads | 8 | ++-------------------------+---------+ +| p_dropout | 0.0015 | ++-------------------------+---------+ +| layer_norm_eps | 1e-05 | ++-------------------------+---------+ +| feature_type_embedding | True | ++-------------------------+---------+ +| feature_index_embedding | True | ++-------------------------+---------+ +| dim_feedforward | 64 | ++-------------------------+---------+ +| use_reg_token | True | ++-------------------------+---------+ +| gradient_clipping | 1.0 | ++-------------------------+---------+ +| activation | gelu | ++-------------------------+---------+ +| num_features | 54 | ++-------------------------+---------+ +| n_cls_tokens | 1 | ++-------------------------+---------+ +MaskCollator params: +----------------- ----- +Allow overlap False +Min context share 0.15 +Max context share 0.35 +Min target share 0.15 +Max target share 0.6 +Min context 8 +Max context 18 +Min target 8 +Max target 32 +Num preds 4 +Num encs 1 +Num features 54 +Cardinalities [] +Base mask seed 0 +----------------- ----- +KL-x annealing: start=0.0 for 20 steps, then anneal to 1e-06 over 1200 steps. +KL-z annealing: start=0.0 for 20 steps, then anneal to 1e-05 over 1200 steps. +KL-y annealing: start=0.0 for 20 steps, then anneal to 3e-06 over 400 steps. +W-JEPA marginal-scale annealing (s_x): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (z): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (s_y): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +Configuration saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_config.yaml +All results will be saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715 +[VTJEPA] Running downstream probe before training begins +Using full dataset for embedding generation: covertype +Generating embedding using: JEPAEmbeddingEncoder on full dataset + 0%| | 0/20 [00:00= 15) +[VTJEPA] Early stopping triggered at epoch 46 + Best downstream validation score: 0.731250 at epoch 15 + No improvement for 15 probe evaluations +Restored best downstream-selected checkpoint from epoch 15. +Training completed. +[2026-09-17T17:10:06+00:00] tag=queue6-gpu3-kl3e-6 dataset=covertype starting downstream models=mlp,dcnv2,resnet,autoint,fttransformer,xgboost +[Config] Loaded sigma_aggregation=mean from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_config.yaml +[Config] Loaded training data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_config.yaml +Split statistics: + val: 999 samples + test: 2000 samples + train: 7001 samples +Running downstream for dataset 'covertype', model 'mlp'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpu1hbyqo3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpu1hbyqo3/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpu1hbyqo3/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpu1hbyqo3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 201.70it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7247247099876404 │ +│ covertype_val_f1-score │ 0.708121120929718 │ +│ covertype_val_loss │ 0.6558718681335449 │ +│ covertype_val_precision │ 0.722467839717865 │ +│ covertype_val_recall │ 0.7247247099876404 │ +│ covertype_val_score │ 0.7247247099876404 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 556.85it/s +Validation metrics: [{'covertype_val_loss': 0.6558718681335449, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7247247099876404, 'covertype_val_precision': 0.722467839717865, 'covertype_val_recall': 0.7247247099876404, 'covertype_val_f1-score': 0.708121120929718, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7247247099876404}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 957 samples (47.85%) + Class 2: 846 samples (42.30%) + Class 3: 42 samples (2.10%) + Class 4: 145 samples (7.25%) + Class 5: 4 samples (0.20%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7149999737739563 │ +│ covertype_test_f1-score │ 0.700138509273529 │ +│ covertype_test_loss │ 0.6544036269187927 │ +│ covertype_test_precision │ 0.7065433859825134 │ +│ covertype_test_recall │ 0.7149999737739563 │ +│ covertype_test_score │ 0.7149999737739563 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 554.20it/s +Test metrics: [{'covertype_test_loss': 0.6544036269187927, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7149999737739563, 'covertype_test_precision': 0.7065433859825134, 'covertype_test_recall': 0.7149999737739563, 'covertype_test_f1-score': 0.700138509273529, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7149999737739563}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 921 samples (48.47%) + Class 2: 829 samples (43.63%) + Class 3: 42 samples (2.21%) + Class 4: 102 samples (5.37%) + Class 5: 3 samples (0.16%) + Class 6: 3 samples (0.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.7221 +covertype_test_precision 5% removed: 0.7185 +covertype_test_recall 5% removed: 0.7221 +covertype_test_f1-score 5% removed: 0.7095 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 1: 873 samples (48.50%) + Class 2: 800 samples (44.44%) + Class 3: 42 samples (2.33%) + Class 4: 80 samples (4.44%) + Class 5: 3 samples (0.17%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7194 +covertype_test_precision 10% removed: 0.7159 +covertype_test_recall 10% removed: 0.7194 +covertype_test_f1-score 10% removed: 0.7079 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 1: 765 samples (47.81%) + Class 2: 751 samples (46.94%) + Class 3: 41 samples (2.56%) + Class 4: 41 samples (2.56%) + Class 5: 2 samples (0.12%) +============================================================ +covertype_test_accuracy 20% removed: 0.7206 +covertype_test_precision 20% removed: 0.7186 +covertype_test_recall 20% removed: 0.7206 +covertype_test_f1-score 20% removed: 0.7127 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 1: 453 samples (45.30%) + Class 2: 498 samples (49.80%) + Class 3: 37 samples (3.70%) + Class 4: 12 samples (1.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7280 +covertype_test_precision 50% removed: 0.7389 +covertype_test_recall 50% removed: 0.7280 +covertype_test_f1-score 50% removed: 0.7264 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpu1hbyqo3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpu1hbyqo3/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpu1hbyqo3/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpu1hbyqo3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 221.32it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.5605605840682983 │ +│ covertype_val_f1-score │ 0.5352215766906738 │ +│ covertype_val_loss │ 0.8750234842300415 │ +│ covertype_val_precision │ 0.6889632940292358 │ +│ covertype_val_recall │ 0.5605605840682983 │ +│ covertype_val_score │ 0.5605605840682983 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 513.34it/s +Validation metrics: [{'covertype_val_loss': 0.8750234842300415, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.5605605840682983, 'covertype_val_precision': 0.6889632940292358, 'covertype_val_recall': 0.5605605840682983, 'covertype_val_f1-score': 0.5352215766906738, 'covertype_val_support': 999.0, 'covertype_val_score': 0.5605605840682983}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 390 samples (19.50%) + Class 2: 1330 samples (66.50%) + Class 3: 85 samples (4.25%) + Class 4: 36 samples (1.80%) + Class 5: 159 samples (7.95%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.5644999742507935 │ +│ covertype_test_f1-score │ 0.5281352400779724 │ +│ covertype_test_loss │ 0.8467276692390442 │ +│ covertype_test_precision │ 0.6787512302398682 │ +│ covertype_test_recall │ 0.5644999742507935 │ +│ covertype_test_score │ 0.5644999742507935 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 528.91it/s +Test metrics: [{'covertype_test_loss': 0.8467276692390442, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.5644999742507935, 'covertype_test_precision': 0.6787512302398682, 'covertype_test_recall': 0.5644999742507935, 'covertype_test_f1-score': 0.5281352400779724, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.5644999742507935}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 374 samples (19.68%) + Class 2: 1301 samples (68.47%) + Class 3: 85 samples (4.47%) + Class 4: 21 samples (1.11%) + Class 5: 119 samples (6.26%) +============================================================ +covertype_test_accuracy 5% removed: 0.5647 +covertype_test_precision 5% removed: 0.6837 +covertype_test_recall 5% removed: 0.5647 +covertype_test_f1-score 5% removed: 0.5277 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 1: 346 samples (19.22%) + Class 2: 1257 samples (69.83%) + Class 3: 85 samples (4.72%) + Class 4: 13 samples (0.72%) + Class 5: 99 samples (5.50%) +============================================================ +covertype_test_accuracy 10% removed: 0.5661 +covertype_test_precision 10% removed: 0.6814 +covertype_test_recall 10% removed: 0.5661 +covertype_test_f1-score 10% removed: 0.5261 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 1: 272 samples (17.00%) + Class 2: 1183 samples (73.94%) + Class 3: 83 samples (5.19%) + Class 4: 7 samples (0.44%) + Class 5: 55 samples (3.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.5638 +covertype_test_precision 20% removed: 0.6971 +covertype_test_recall 20% removed: 0.5638 +covertype_test_f1-score 20% removed: 0.5191 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 1: 138 samples (13.80%) + Class 2: 776 samples (77.60%) + Class 3: 72 samples (7.20%) + Class 4: 3 samples (0.30%) + Class 5: 11 samples (1.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.5640 +covertype_test_precision 50% removed: 0.7386 +covertype_test_recall 50% removed: 0.5640 +covertype_test_f1-score 50% removed: 0.5134 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpu1hbyqo3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpu1hbyqo3/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpu1hbyqo3/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpu1hbyqo3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 239.80it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7277277112007141 │ +│ covertype_val_f1-score │ 0.7218961119651794 │ +│ covertype_val_loss │ 0.6209877133369446 │ +│ covertype_val_precision │ 0.7176324725151062 │ +│ covertype_val_recall │ 0.7277277112007141 │ +│ covertype_val_score │ 0.7277277112007141 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 517.85it/s +Validation metrics: [{'covertype_val_loss': 0.6209877133369446, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7277277112007141, 'covertype_val_precision': 0.7176324725151062, 'covertype_val_recall': 0.7277277112007141, 'covertype_val_f1-score': 0.7218961119651794, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7277277112007141}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1105 samples (55.25%) + Class 2: 653 samples (32.65%) + Class 3: 53 samples (2.65%) + Class 4: 127 samples (6.35%) + Class 5: 54 samples (2.70%) + Class 6: 8 samples (0.40%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7204999923706055 │ +│ covertype_test_f1-score │ 0.7126336097717285 │ +│ covertype_test_loss │ 0.6254803538322449 │ +│ covertype_test_precision │ 0.7079125046730042 │ +│ covertype_test_recall │ 0.7204999923706055 │ +│ covertype_test_score │ 0.7204999923706055 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 499.49it/s +Test metrics: [{'covertype_test_loss': 0.6254803538322449, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7204999923706055, 'covertype_test_precision': 0.7079125046730042, 'covertype_test_recall': 0.7204999923706055, 'covertype_test_f1-score': 0.7126336097717285, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7204999923706055}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1074 samples (56.53%) + Class 2: 639 samples (33.63%) + Class 3: 53 samples (2.79%) + Class 4: 89 samples (4.68%) + Class 5: 44 samples (2.32%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7284 +covertype_test_precision 5% removed: 0.7165 +covertype_test_recall 5% removed: 0.7284 +covertype_test_f1-score 5% removed: 0.7206 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 1: 1024 samples (56.89%) + Class 2: 615 samples (34.17%) + Class 3: 53 samples (2.94%) + Class 4: 72 samples (4.00%) + Class 5: 36 samples (2.00%) +============================================================ +covertype_test_accuracy 10% removed: 0.7256 +covertype_test_precision 10% removed: 0.7124 +covertype_test_recall 10% removed: 0.7256 +covertype_test_f1-score 10% removed: 0.7172 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 1: 917 samples (57.31%) + Class 2: 575 samples (35.94%) + Class 3: 52 samples (3.25%) + Class 4: 40 samples (2.50%) + Class 5: 16 samples (1.00%) +============================================================ +covertype_test_accuracy 20% removed: 0.7281 +covertype_test_precision 20% removed: 0.7181 +covertype_test_recall 20% removed: 0.7281 +covertype_test_f1-score 20% removed: 0.7213 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 1: 573 samples (57.30%) + Class 2: 368 samples (36.80%) + Class 3: 46 samples (4.60%) + Class 4: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7350 +covertype_test_precision 50% removed: 0.7300 +covertype_test_recall 50% removed: 0.7350 +covertype_test_f1-score 50% removed: 0.7306 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpu1hbyqo3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpu1hbyqo3/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpu1hbyqo3/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpu1hbyqo3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 251.89it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7317317128181458 │ +│ covertype_val_f1-score │ 0.7221841216087341 │ +│ covertype_val_loss │ 0.6584267616271973 │ +│ covertype_val_precision │ 0.7257134318351746 │ +│ covertype_val_recall │ 0.7317317128181458 │ +│ covertype_val_score │ 0.7317317128181458 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 471.33it/s +Validation metrics: [{'covertype_val_loss': 0.6584267616271973, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7317317128181458, 'covertype_val_precision': 0.7257134318351746, 'covertype_val_recall': 0.7317317128181458, 'covertype_val_f1-score': 0.7221841216087341, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7317317128181458}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1112 samples (55.60%) + Class 2: 614 samples (30.70%) + Class 3: 43 samples (2.15%) + Class 4: 196 samples (9.80%) + Class 5: 31 samples (1.55%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7110000252723694 │ +│ covertype_test_f1-score │ 0.7002649903297424 │ +│ covertype_test_loss │ 0.6641253232955933 │ +│ covertype_test_precision │ 0.7038394808769226 │ +│ covertype_test_recall │ 0.7110000252723694 │ +│ covertype_test_score │ 0.7110000252723694 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 418.72it/s +Test metrics: [{'covertype_test_loss': 0.6641253232955933, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7110000252723694, 'covertype_test_precision': 0.7038394808769226, 'covertype_test_recall': 0.7110000252723694, 'covertype_test_f1-score': 0.7002649903297424, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7110000252723694}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1081 samples (56.89%) + Class 2: 600 samples (31.58%) + Class 3: 43 samples (2.26%) + Class 4: 146 samples (7.68%) + Class 5: 29 samples (1.53%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7147 +covertype_test_precision 5% removed: 0.7092 +covertype_test_recall 5% removed: 0.7147 +covertype_test_f1-score 5% removed: 0.7057 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 1: 1034 samples (57.44%) + Class 2: 578 samples (32.11%) + Class 3: 43 samples (2.39%) + Class 4: 120 samples (6.67%) + Class 5: 25 samples (1.39%) +============================================================ +covertype_test_accuracy 10% removed: 0.7106 +covertype_test_precision 10% removed: 0.7052 +covertype_test_recall 10% removed: 0.7106 +covertype_test_f1-score 10% removed: 0.7018 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 1: 934 samples (58.38%) + Class 2: 539 samples (33.69%) + Class 3: 42 samples (2.62%) + Class 4: 65 samples (4.06%) + Class 5: 20 samples (1.25%) +============================================================ +covertype_test_accuracy 20% removed: 0.7138 +covertype_test_precision 20% removed: 0.7110 +covertype_test_recall 20% removed: 0.7138 +covertype_test_f1-score 20% removed: 0.7073 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 1: 605 samples (60.50%) + Class 2: 345 samples (34.50%) + Class 3: 36 samples (3.60%) + Class 4: 14 samples (1.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.7260 +covertype_test_precision 50% removed: 0.7232 +covertype_test_recall 50% removed: 0.7260 +covertype_test_f1-score 50% removed: 0.7187 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpu1hbyqo3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpu1hbyqo3/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpu1hbyqo3/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpu1hbyqo3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 239.60it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7307307124137878 │ +│ covertype_val_f1-score │ 0.713465690612793 │ +│ covertype_val_loss │ 0.6413372159004211 │ +│ covertype_val_precision │ 0.7071869969367981 │ +│ covertype_val_recall │ 0.7307307124137878 │ +│ covertype_val_score │ 0.7307307124137878 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 508.17it/s +Validation metrics: [{'covertype_val_loss': 0.6413372159004211, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7307307124137878, 'covertype_val_precision': 0.7071869969367981, 'covertype_val_recall': 0.7307307124137878, 'covertype_val_f1-score': 0.713465690612793, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7307307124137878}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1164 samples (58.20%) + Class 2: 641 samples (32.05%) + Class 3: 27 samples (1.35%) + Class 4: 138 samples (6.90%) + Class 5: 30 samples (1.50%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7204999923706055 │ +│ covertype_test_f1-score │ 0.705977201461792 │ +│ covertype_test_loss │ 0.6409461498260498 │ +│ covertype_test_precision │ 0.7074525952339172 │ +│ covertype_test_recall │ 0.7204999923706055 │ +│ covertype_test_score │ 0.7204999923706055 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 497.25it/s +Test metrics: [{'covertype_test_loss': 0.6409461498260498, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7204999923706055, 'covertype_test_precision': 0.7074525952339172, 'covertype_test_recall': 0.7204999923706055, 'covertype_test_f1-score': 0.705977201461792, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7204999923706055}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1131 samples (59.53%) + Class 2: 627 samples (33.00%) + Class 3: 27 samples (1.42%) + Class 4: 90 samples (4.74%) + Class 5: 25 samples (1.32%) +============================================================ +covertype_test_accuracy 5% removed: 0.7263 +covertype_test_precision 5% removed: 0.7153 +covertype_test_recall 5% removed: 0.7263 +covertype_test_f1-score 5% removed: 0.7135 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 1: 1077 samples (59.83%) + Class 2: 605 samples (33.61%) + Class 3: 27 samples (1.50%) + Class 4: 68 samples (3.78%) + Class 5: 23 samples (1.28%) +============================================================ +covertype_test_accuracy 10% removed: 0.7217 +covertype_test_precision 10% removed: 0.7121 +covertype_test_recall 10% removed: 0.7217 +covertype_test_f1-score 10% removed: 0.7094 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 1: 964 samples (60.25%) + Class 2: 565 samples (35.31%) + Class 3: 26 samples (1.62%) + Class 4: 35 samples (2.19%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7237 +covertype_test_precision 20% removed: 0.7183 +covertype_test_recall 20% removed: 0.7237 +covertype_test_f1-score 20% removed: 0.7130 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 1: 601 samples (60.10%) + Class 2: 363 samples (36.30%) + Class 3: 24 samples (2.40%) + Class 4: 12 samples (1.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7280 +covertype_test_precision 50% removed: 0.7301 +covertype_test_recall 50% removed: 0.7280 +covertype_test_f1-score 50% removed: 0.7201 +Wrote results for mlp on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/mlp_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.6863±0.0847 5%: 0.6913±0.0880 10%: 0.6887±0.0853 20%: 0.6900±0.0879 50%: 0.6962±0.0918 +covertype_test_precision 0%: 0.7009±0.0155 5%: 0.7086±0.0179 10%: 0.7054±0.0173 20%: 0.7126±0.0115 50%: 0.7321±0.0083 +covertype_test_recall 0%: 0.6863±0.0847 5%: 0.6913±0.0880 10%: 0.6887±0.0853 20%: 0.6900±0.0879 50%: 0.6962±0.0918 +covertype_test_f1-score 0%: 0.6694±0.0983 5%: 0.6754±0.1028 10%: 0.6725±0.1018 20%: 0.6747±0.1082 50%: 0.6818±0.1171 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'dcnv2'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp9putqsev/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp9putqsev/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp9putqsev/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp9putqsev/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 174.37it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7907907962799072 │ +│ covertype_val_f1-score │ 0.7854368090629578 │ +│ covertype_val_loss │ 0.5496078133583069 │ +│ covertype_val_precision │ 0.7904288172721863 │ +│ covertype_val_recall │ 0.7907907962799072 │ +│ covertype_val_score │ 0.7907907962799072 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 392.30it/s +Validation metrics: [{'covertype_val_loss': 0.5496078133583069, 'lr': 0.0, 'covertype_val_accuracy': 0.7907907962799072, 'covertype_val_precision': 0.7904288172721863, 'covertype_val_recall': 0.7907907962799072, 'covertype_val_f1-score': 0.7854368090629578, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7907907962799072}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 1028 samples (51.40%) + Class 2: 703 samples (35.15%) + Class 3: 60 samples (3.00%) + Class 4: 141 samples (7.05%) + Class 5: 46 samples (2.30%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7919999957084656 │ +│ covertype_test_f1-score │ 0.7897135019302368 │ +│ covertype_test_loss │ 0.557127833366394 │ +│ covertype_test_precision │ 0.7911400198936462 │ +│ covertype_test_recall │ 0.7919999957084656 │ +│ covertype_test_score │ 0.7919999957084656 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 401.74it/s +Test metrics: [{'covertype_test_loss': 0.557127833366394, 'lr': 0.0, 'covertype_test_accuracy': 0.7919999957084656, 'covertype_test_precision': 0.7911400198936462, 'covertype_test_recall': 0.7919999957084656, 'covertype_test_f1-score': 0.7897135019302368, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7919999957084656}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 998 samples (52.53%) + Class 2: 686 samples (36.11%) + Class 3: 60 samples (3.16%) + Class 4: 97 samples (5.11%) + Class 5: 40 samples (2.11%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7989 +covertype_test_precision 5% removed: 0.7984 +covertype_test_recall 5% removed: 0.7989 +covertype_test_f1-score 5% removed: 0.7973 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 18 samples (1.00%) + Class 1: 949 samples (52.72%) + Class 2: 662 samples (36.78%) + Class 3: 60 samples (3.33%) + Class 4: 79 samples (4.39%) + Class 5: 32 samples (1.78%) +============================================================ +covertype_test_accuracy 10% removed: 0.8000 +covertype_test_precision 10% removed: 0.7984 +covertype_test_recall 10% removed: 0.8000 +covertype_test_f1-score 10% removed: 0.7981 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 851 samples (53.19%) + Class 2: 618 samples (38.62%) + Class 3: 58 samples (3.62%) + Class 4: 42 samples (2.62%) + Class 5: 18 samples (1.12%) +============================================================ +covertype_test_accuracy 20% removed: 0.8050 +covertype_test_precision 20% removed: 0.8038 +covertype_test_recall 20% removed: 0.8050 +covertype_test_f1-score 20% removed: 0.8039 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 529 samples (52.90%) + Class 2: 402 samples (40.20%) + Class 3: 51 samples (5.10%) + Class 4: 10 samples (1.00%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.8190 +covertype_test_precision 50% removed: 0.8197 +covertype_test_recall 50% removed: 0.8190 +covertype_test_f1-score 50% removed: 0.8192 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp9putqsev/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp9putqsev/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp9putqsev/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp9putqsev/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 148.45it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7777777910232544 │ +│ covertype_val_f1-score │ 0.7733013033866882 │ +│ covertype_val_loss │ 0.5850308537483215 │ +│ covertype_val_precision │ 0.7722184658050537 │ +│ covertype_val_recall │ 0.7777777910232544 │ +│ covertype_val_score │ 0.7777777910232544 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 347.30it/s +Validation metrics: [{'covertype_val_loss': 0.5850308537483215, 'lr': 0.0, 'covertype_val_accuracy': 0.7777777910232544, 'covertype_val_precision': 0.7722184658050537, 'covertype_val_recall': 0.7777777910232544, 'covertype_val_f1-score': 0.7733013033866882, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7777777910232544}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 13 samples (0.65%) + Class 1: 1046 samples (52.30%) + Class 2: 696 samples (34.80%) + Class 3: 60 samples (3.00%) + Class 4: 131 samples (6.55%) + Class 5: 51 samples (2.55%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7799999713897705 │ +│ covertype_test_f1-score │ 0.7770465612411499 │ +│ covertype_test_loss │ 0.600143313407898 │ +│ covertype_test_precision │ 0.7789371609687805 │ +│ covertype_test_recall │ 0.7799999713897705 │ +│ covertype_test_score │ 0.7799999713897705 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 366.86it/s +Test metrics: [{'covertype_test_loss': 0.600143313407898, 'lr': 0.0, 'covertype_test_accuracy': 0.7799999713897705, 'covertype_test_precision': 0.7789371609687805, 'covertype_test_recall': 0.7799999713897705, 'covertype_test_f1-score': 0.7770465612411499, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7799999713897705}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 1016 samples (53.47%) + Class 2: 678 samples (35.68%) + Class 3: 60 samples (3.16%) + Class 4: 87 samples (4.58%) + Class 5: 46 samples (2.42%) +============================================================ +covertype_test_accuracy 5% removed: 0.7858 +covertype_test_precision 5% removed: 0.7836 +covertype_test_recall 5% removed: 0.7858 +covertype_test_f1-score 5% removed: 0.7832 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 969 samples (53.83%) + Class 2: 652 samples (36.22%) + Class 3: 60 samples (3.33%) + Class 4: 68 samples (3.78%) + Class 5: 38 samples (2.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7867 +covertype_test_precision 10% removed: 0.7849 +covertype_test_recall 10% removed: 0.7867 +covertype_test_f1-score 10% removed: 0.7842 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 9 samples (0.56%) + Class 1: 869 samples (54.31%) + Class 2: 607 samples (37.94%) + Class 3: 58 samples (3.62%) + Class 4: 35 samples (2.19%) + Class 5: 22 samples (1.38%) +============================================================ +covertype_test_accuracy 20% removed: 0.7912 +covertype_test_precision 20% removed: 0.7898 +covertype_test_recall 20% removed: 0.7912 +covertype_test_f1-score 20% removed: 0.7895 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 537 samples (53.70%) + Class 2: 393 samples (39.30%) + Class 3: 52 samples (5.20%) + Class 4: 11 samples (1.10%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7900 +covertype_test_precision 50% removed: 0.7903 +covertype_test_recall 50% removed: 0.7900 +covertype_test_f1-score 50% removed: 0.7899 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp9putqsev/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp9putqsev/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp9putqsev/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp9putqsev/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 193.97it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7697697877883911 │ +│ covertype_val_f1-score │ 0.7639090418815613 │ +│ covertype_val_loss │ 0.5477525591850281 │ +│ covertype_val_precision │ 0.7623438835144043 │ +│ covertype_val_recall │ 0.7697697877883911 │ +│ covertype_val_score │ 0.7697697877883911 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 451.45it/s +Validation metrics: [{'covertype_val_loss': 0.5477525591850281, 'lr': 0.0, 'covertype_val_accuracy': 0.7697697877883911, 'covertype_val_precision': 0.7623438835144043, 'covertype_val_recall': 0.7697697877883911, 'covertype_val_f1-score': 0.7639090418815613, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7697697877883911}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1042 samples (52.10%) + Class 2: 701 samples (35.05%) + Class 3: 58 samples (2.90%) + Class 4: 137 samples (6.85%) + Class 5: 42 samples (2.10%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7820000052452087 │ +│ covertype_test_f1-score │ 0.7791525721549988 │ +│ covertype_test_loss │ 0.5659570097923279 │ +│ covertype_test_precision │ 0.7811025381088257 │ +│ covertype_test_recall │ 0.7820000052452087 │ +│ covertype_test_score │ 0.7820000052452087 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 344.60it/s +Test metrics: [{'covertype_test_loss': 0.5659570097923279, 'lr': 0.0, 'covertype_test_accuracy': 0.7820000052452087, 'covertype_test_precision': 0.7811025381088257, 'covertype_test_recall': 0.7820000052452087, 'covertype_test_f1-score': 0.7791525721549988, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7820000052452087}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 1013 samples (53.32%) + Class 2: 683 samples (35.95%) + Class 3: 58 samples (3.05%) + Class 4: 93 samples (4.89%) + Class 5: 36 samples (1.89%) +============================================================ +covertype_test_accuracy 5% removed: 0.7889 +covertype_test_precision 5% removed: 0.7863 +covertype_test_recall 5% removed: 0.7889 +covertype_test_f1-score 5% removed: 0.7864 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 964 samples (53.56%) + Class 2: 658 samples (36.56%) + Class 3: 58 samples (3.22%) + Class 4: 74 samples (4.11%) + Class 5: 29 samples (1.61%) +============================================================ +covertype_test_accuracy 10% removed: 0.7900 +covertype_test_precision 10% removed: 0.7883 +covertype_test_recall 10% removed: 0.7900 +covertype_test_f1-score 10% removed: 0.7878 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 866 samples (54.12%) + Class 2: 610 samples (38.12%) + Class 3: 57 samples (3.56%) + Class 4: 38 samples (2.38%) + Class 5: 16 samples (1.00%) +============================================================ +covertype_test_accuracy 20% removed: 0.7931 +covertype_test_precision 20% removed: 0.7919 +covertype_test_recall 20% removed: 0.7931 +covertype_test_f1-score 20% removed: 0.7918 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 539 samples (53.90%) + Class 2: 394 samples (39.40%) + Class 3: 50 samples (5.00%) + Class 4: 12 samples (1.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7970 +covertype_test_precision 50% removed: 0.7954 +covertype_test_recall 50% removed: 0.7970 +covertype_test_f1-score 50% removed: 0.7957 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp9putqsev/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp9putqsev/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp9putqsev/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp9putqsev/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 190.58it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7877877950668335 │ +│ covertype_val_f1-score │ 0.7766038179397583 │ +│ covertype_val_loss │ 0.5522556304931641 │ +│ covertype_val_precision │ 0.7756366729736328 │ +│ covertype_val_recall │ 0.7877877950668335 │ +│ covertype_val_score │ 0.7877877950668335 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 377.75it/s +Validation metrics: [{'covertype_val_loss': 0.5522556304931641, 'lr': 0.0, 'covertype_val_accuracy': 0.7877877950668335, 'covertype_val_precision': 0.7756366729736328, 'covertype_val_recall': 0.7877877950668335, 'covertype_val_f1-score': 0.7766038179397583, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7877877950668335}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1035 samples (51.75%) + Class 2: 701 samples (35.05%) + Class 3: 61 samples (3.05%) + Class 4: 160 samples (8.00%) + Class 5: 23 samples (1.15%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7785000205039978 │ +│ covertype_test_f1-score │ 0.7731351256370544 │ +│ covertype_test_loss │ 0.5944715142250061 │ +│ covertype_test_precision │ 0.7787157893180847 │ +│ covertype_test_recall │ 0.7785000205039978 │ +│ covertype_test_score │ 0.7785000205039978 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 404.28it/s +Test metrics: [{'covertype_test_loss': 0.5944715142250061, 'lr': 0.0, 'covertype_test_accuracy': 0.7785000205039978, 'covertype_test_precision': 0.7787157893180847, 'covertype_test_recall': 0.7785000205039978, 'covertype_test_f1-score': 0.7731351256370544, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7785000205039978}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 1006 samples (52.95%) + Class 2: 683 samples (35.95%) + Class 3: 61 samples (3.21%) + Class 4: 110 samples (5.79%) + Class 5: 23 samples (1.21%) +============================================================ +covertype_test_accuracy 5% removed: 0.7863 +covertype_test_precision 5% removed: 0.7844 +covertype_test_recall 5% removed: 0.7863 +covertype_test_f1-score 5% removed: 0.7826 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 959 samples (53.28%) + Class 2: 656 samples (36.44%) + Class 3: 61 samples (3.39%) + Class 4: 88 samples (4.89%) + Class 5: 19 samples (1.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7856 +covertype_test_precision 10% removed: 0.7844 +covertype_test_recall 10% removed: 0.7856 +covertype_test_f1-score 10% removed: 0.7823 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 861 samples (53.81%) + Class 2: 610 samples (38.12%) + Class 3: 59 samples (3.69%) + Class 4: 47 samples (2.94%) + Class 5: 11 samples (0.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7875 +covertype_test_precision 20% removed: 0.7866 +covertype_test_recall 20% removed: 0.7875 +covertype_test_f1-score 20% removed: 0.7856 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 534 samples (53.40%) + Class 2: 396 samples (39.60%) + Class 3: 51 samples (5.10%) + Class 4: 14 samples (1.40%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7960 +covertype_test_precision 50% removed: 0.7957 +covertype_test_recall 50% removed: 0.7960 +covertype_test_f1-score 50% removed: 0.7953 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp9putqsev/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp9putqsev/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp9putqsev/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp9putqsev/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 169.67it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7677677869796753 │ +│ covertype_val_f1-score │ 0.7636533975601196 │ +│ covertype_val_loss │ 0.5942533016204834 │ +│ covertype_val_precision │ 0.7667320966720581 │ +│ covertype_val_recall │ 0.7677677869796753 │ +│ covertype_val_score │ 0.7677677869796753 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 389.18it/s +Validation metrics: [{'covertype_val_loss': 0.5942533016204834, 'lr': 0.0, 'covertype_val_accuracy': 0.7677677869796753, 'covertype_val_precision': 0.7667320966720581, 'covertype_val_recall': 0.7677677869796753, 'covertype_val_f1-score': 0.7636533975601196, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7677677869796753}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 13 samples (0.65%) + Class 1: 1045 samples (52.25%) + Class 2: 698 samples (34.90%) + Class 3: 57 samples (2.85%) + Class 4: 129 samples (6.45%) + Class 5: 55 samples (2.75%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7850000262260437 │ +│ covertype_test_f1-score │ 0.7825120687484741 │ +│ covertype_test_loss │ 0.5841752886772156 │ +│ covertype_test_precision │ 0.7849198579788208 │ +│ covertype_test_recall │ 0.7850000262260437 │ +│ covertype_test_score │ 0.7850000262260437 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 386.26it/s +Test metrics: [{'covertype_test_loss': 0.5841752886772156, 'lr': 0.0, 'covertype_test_accuracy': 0.7850000262260437, 'covertype_test_precision': 0.7849198579788208, 'covertype_test_recall': 0.7850000262260437, 'covertype_test_f1-score': 0.7825120687484741, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7850000262260437}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 1016 samples (53.47%) + Class 2: 680 samples (35.79%) + Class 3: 57 samples (3.00%) + Class 4: 87 samples (4.58%) + Class 5: 47 samples (2.47%) +============================================================ +covertype_test_accuracy 5% removed: 0.7932 +covertype_test_precision 5% removed: 0.7921 +covertype_test_recall 5% removed: 0.7932 +covertype_test_f1-score 5% removed: 0.7909 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 966 samples (53.67%) + Class 2: 655 samples (36.39%) + Class 3: 57 samples (3.17%) + Class 4: 67 samples (3.72%) + Class 5: 42 samples (2.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.7967 +covertype_test_precision 10% removed: 0.7964 +covertype_test_recall 10% removed: 0.7967 +covertype_test_f1-score 10% removed: 0.7948 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 8 samples (0.50%) + Class 1: 863 samples (53.94%) + Class 2: 612 samples (38.25%) + Class 3: 56 samples (3.50%) + Class 4: 36 samples (2.25%) + Class 5: 25 samples (1.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.8031 +covertype_test_precision 20% removed: 0.8037 +covertype_test_recall 20% removed: 0.8031 +covertype_test_f1-score 20% removed: 0.8019 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 3 samples (0.30%) + Class 1: 537 samples (53.70%) + Class 2: 397 samples (39.70%) + Class 3: 49 samples (4.90%) + Class 4: 10 samples (1.00%) + Class 5: 4 samples (0.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.8070 +covertype_test_precision 50% removed: 0.8079 +covertype_test_recall 50% removed: 0.8070 +covertype_test_f1-score 50% removed: 0.8071 +Wrote results for dcnv2 on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/dcnv2_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7835±0.0066 5%: 0.7906±0.0068 10%: 0.7918±0.0078 20%: 0.7960±0.0095 50%: 0.8018±0.0141 +covertype_test_precision 0%: 0.7830±0.0065 5%: 0.7890±0.0077 10%: 0.7905±0.0081 20%: 0.7952±0.0100 50%: 0.8018±0.0148 +covertype_test_recall 0%: 0.7835±0.0066 5%: 0.7906±0.0068 10%: 0.7918±0.0078 20%: 0.7960±0.0095 50%: 0.8018±0.0141 +covertype_test_f1-score 0%: 0.7803±0.0078 5%: 0.7881±0.0076 10%: 0.7894±0.0085 20%: 0.7945±0.0099 50%: 0.8014±0.0146 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'resnet'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpr_4mf8h8/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpr_4mf8h8/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpr_4mf8h8/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpr_4mf8h8/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 174.71it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7737737894058228 │ +│ covertype_val_f1-score │ 0.7710486054420471 │ +│ covertype_val_loss │ 0.5840696692466736 │ +│ covertype_val_precision │ 0.7710678577423096 │ +│ covertype_val_recall │ 0.7737737894058228 │ +│ covertype_val_score │ 0.7737737894058228 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 405.14it/s +Validation metrics: [{'covertype_val_loss': 0.5840696692466736, 'lr': 0.0, 'covertype_val_accuracy': 0.7737737894058228, 'covertype_val_precision': 0.7710678577423096, 'covertype_val_recall': 0.7737737894058228, 'covertype_val_f1-score': 0.7710486054420471, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7737737894058228}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 23 samples (1.15%) + Class 1: 1037 samples (51.85%) + Class 2: 683 samples (34.15%) + Class 3: 61 samples (3.05%) + Class 4: 122 samples (6.10%) + Class 5: 70 samples (3.50%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7760000228881836 │ +│ covertype_test_f1-score │ 0.7757514119148254 │ +│ covertype_test_loss │ 0.5528345704078674 │ +│ covertype_test_precision │ 0.7769097089767456 │ +│ covertype_test_recall │ 0.7760000228881836 │ +│ covertype_test_score │ 0.7760000228881836 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 386.41it/s +Test metrics: [{'covertype_test_loss': 0.5528345704078674, 'lr': 0.0, 'covertype_test_accuracy': 0.7760000228881836, 'covertype_test_precision': 0.7769097089767456, 'covertype_test_recall': 0.7760000228881836, 'covertype_test_f1-score': 0.7757514119148254, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7760000228881836}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 23 samples (1.21%) + Class 1: 1008 samples (53.05%) + Class 2: 666 samples (35.05%) + Class 3: 61 samples (3.21%) + Class 4: 83 samples (4.37%) + Class 5: 59 samples (3.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7816 +covertype_test_precision 5% removed: 0.7820 +covertype_test_recall 5% removed: 0.7816 +covertype_test_f1-score 5% removed: 0.7813 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 23 samples (1.28%) + Class 1: 961 samples (53.39%) + Class 2: 640 samples (35.56%) + Class 3: 61 samples (3.39%) + Class 4: 66 samples (3.67%) + Class 5: 49 samples (2.72%) +============================================================ +covertype_test_accuracy 10% removed: 0.7828 +covertype_test_precision 10% removed: 0.7836 +covertype_test_recall 10% removed: 0.7828 +covertype_test_f1-score 10% removed: 0.7826 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 19 samples (1.19%) + Class 1: 860 samples (53.75%) + Class 2: 600 samples (37.50%) + Class 3: 59 samples (3.69%) + Class 4: 35 samples (2.19%) + Class 5: 27 samples (1.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7906 +covertype_test_precision 20% removed: 0.7917 +covertype_test_recall 20% removed: 0.7906 +covertype_test_f1-score 20% removed: 0.7908 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 549 samples (54.90%) + Class 2: 380 samples (38.00%) + Class 3: 51 samples (5.10%) + Class 4: 12 samples (1.20%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7960 +covertype_test_precision 50% removed: 0.7970 +covertype_test_recall 50% removed: 0.7960 +covertype_test_f1-score 50% removed: 0.7957 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpr_4mf8h8/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpr_4mf8h8/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpr_4mf8h8/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpr_4mf8h8/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 149.14it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7627627849578857 │ +│ covertype_val_f1-score │ 0.7506809830665588 │ +│ covertype_val_loss │ 0.6164122819900513 │ +│ covertype_val_precision │ 0.7514853477478027 │ +│ covertype_val_recall │ 0.7627627849578857 │ +│ covertype_val_score │ 0.7627627849578857 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 396.86it/s +Validation metrics: [{'covertype_val_loss': 0.6164122819900513, 'lr': 0.0, 'covertype_val_accuracy': 0.7627627849578857, 'covertype_val_precision': 0.7514853477478027, 'covertype_val_recall': 0.7627627849578857, 'covertype_val_f1-score': 0.7506809830665588, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7627627849578857}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 22 samples (1.10%) + Class 1: 1051 samples (52.55%) + Class 2: 711 samples (35.55%) + Class 3: 48 samples (2.40%) + Class 4: 129 samples (6.45%) + Class 5: 34 samples (1.70%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7804999947547913 │ +│ covertype_test_f1-score │ 0.7762120366096497 │ +│ covertype_test_loss │ 0.5706948041915894 │ +│ covertype_test_precision │ 0.7767069339752197 │ +│ covertype_test_recall │ 0.7804999947547913 │ +│ covertype_test_score │ 0.7804999947547913 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 423.89it/s +Test metrics: [{'covertype_test_loss': 0.5706948041915894, 'lr': 0.0, 'covertype_test_accuracy': 0.7804999947547913, 'covertype_test_precision': 0.7767069339752197, 'covertype_test_recall': 0.7804999947547913, 'covertype_test_f1-score': 0.7762120366096497, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7804999947547913}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 22 samples (1.16%) + Class 1: 1015 samples (53.42%) + Class 2: 696 samples (36.63%) + Class 3: 48 samples (2.53%) + Class 4: 91 samples (4.79%) + Class 5: 27 samples (1.42%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7853 +covertype_test_precision 5% removed: 0.7824 +covertype_test_recall 5% removed: 0.7853 +covertype_test_f1-score 5% removed: 0.7818 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 22 samples (1.22%) + Class 1: 963 samples (53.50%) + Class 2: 674 samples (37.44%) + Class 3: 48 samples (2.67%) + Class 4: 71 samples (3.94%) + Class 5: 22 samples (1.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.7850 +covertype_test_precision 10% removed: 0.7812 +covertype_test_recall 10% removed: 0.7850 +covertype_test_f1-score 10% removed: 0.7814 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 17 samples (1.06%) + Class 1: 853 samples (53.31%) + Class 2: 631 samples (39.44%) + Class 3: 47 samples (2.94%) + Class 4: 36 samples (2.25%) + Class 5: 16 samples (1.00%) +============================================================ +covertype_test_accuracy 20% removed: 0.7862 +covertype_test_precision 20% removed: 0.7854 +covertype_test_recall 20% removed: 0.7862 +covertype_test_f1-score 20% removed: 0.7850 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 545 samples (54.50%) + Class 2: 394 samples (39.40%) + Class 3: 41 samples (4.10%) + Class 4: 10 samples (1.00%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8030 +covertype_test_precision 50% removed: 0.8053 +covertype_test_recall 50% removed: 0.8030 +covertype_test_f1-score 50% removed: 0.8027 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpr_4mf8h8/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpr_4mf8h8/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpr_4mf8h8/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpr_4mf8h8/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 45/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 194.67it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7477477192878723 │ +│ covertype_val_f1-score │ 0.7464326024055481 │ +│ covertype_val_loss │ 0.6226710081100464 │ +│ covertype_val_precision │ 0.7498692870140076 │ +│ covertype_val_recall │ 0.7477477192878723 │ +│ covertype_val_score │ 0.7477477192878723 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 444.44it/s +Validation metrics: [{'covertype_val_loss': 0.6226710081100464, 'lr': 0.0, 'covertype_val_accuracy': 0.7477477192878723, 'covertype_val_precision': 0.7498692870140076, 'covertype_val_recall': 0.7477477192878723, 'covertype_val_f1-score': 0.7464326024055481, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7477477192878723}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 29 samples (1.45%) + Class 1: 915 samples (45.75%) + Class 2: 818 samples (40.90%) + Class 3: 48 samples (2.40%) + Class 4: 116 samples (5.80%) + Class 5: 70 samples (3.50%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.762499988079071 │ +│ covertype_test_f1-score │ 0.7633879780769348 │ +│ covertype_test_loss │ 0.569135308265686 │ +│ covertype_test_precision │ 0.7711423635482788 │ +│ covertype_test_recall │ 0.762499988079071 │ +│ covertype_test_score │ 0.762499988079071 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 454.79it/s +Test metrics: [{'covertype_test_loss': 0.569135308265686, 'lr': 0.0, 'covertype_test_accuracy': 0.762499988079071, 'covertype_test_precision': 0.7711423635482788, 'covertype_test_recall': 0.762499988079071, 'covertype_test_f1-score': 0.7633879780769348, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.762499988079071}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 29 samples (1.53%) + Class 1: 886 samples (46.63%) + Class 2: 799 samples (42.05%) + Class 3: 48 samples (2.53%) + Class 4: 78 samples (4.11%) + Class 5: 59 samples (3.11%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7663 +covertype_test_precision 5% removed: 0.7767 +covertype_test_recall 5% removed: 0.7663 +covertype_test_f1-score 5% removed: 0.7675 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 29 samples (1.61%) + Class 1: 844 samples (46.89%) + Class 2: 767 samples (42.61%) + Class 3: 48 samples (2.67%) + Class 4: 61 samples (3.39%) + Class 5: 51 samples (2.83%) +============================================================ +covertype_test_accuracy 10% removed: 0.7706 +covertype_test_precision 10% removed: 0.7785 +covertype_test_recall 10% removed: 0.7706 +covertype_test_f1-score 10% removed: 0.7713 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 23 samples (1.44%) + Class 1: 743 samples (46.44%) + Class 2: 723 samples (45.19%) + Class 3: 47 samples (2.94%) + Class 4: 37 samples (2.31%) + Class 5: 27 samples (1.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7750 +covertype_test_precision 20% removed: 0.7858 +covertype_test_recall 20% removed: 0.7750 +covertype_test_f1-score 20% removed: 0.7765 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 10 samples (1.00%) + Class 1: 458 samples (45.80%) + Class 2: 476 samples (47.60%) + Class 3: 42 samples (4.20%) + Class 4: 11 samples (1.10%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7840 +covertype_test_precision 50% removed: 0.8000 +covertype_test_recall 50% removed: 0.7840 +covertype_test_f1-score 50% removed: 0.7867 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpr_4mf8h8/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpr_4mf8h8/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpr_4mf8h8/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpr_4mf8h8/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 193.52it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7637637853622437 │ +│ covertype_val_f1-score │ 0.7554566860198975 │ +│ covertype_val_loss │ 0.5994595289230347 │ +│ covertype_val_precision │ 0.752396285533905 │ +│ covertype_val_recall │ 0.7637637853622437 │ +│ covertype_val_score │ 0.7637637853622437 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 431.59it/s +Validation metrics: [{'covertype_val_loss': 0.5994595289230347, 'lr': 0.0, 'covertype_val_accuracy': 0.7637637853622437, 'covertype_val_precision': 0.752396285533905, 'covertype_val_recall': 0.7637637853622437, 'covertype_val_f1-score': 0.7554566860198975, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7637637853622437}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 26 samples (1.30%) + Class 1: 975 samples (48.75%) + Class 2: 757 samples (37.85%) + Class 3: 65 samples (3.25%) + Class 4: 125 samples (6.25%) + Class 5: 49 samples (2.45%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7785000205039978 │ +│ covertype_test_f1-score │ 0.7769099473953247 │ +│ covertype_test_loss │ 0.5908547639846802 │ +│ covertype_test_precision │ 0.7780723571777344 │ +│ covertype_test_recall │ 0.7785000205039978 │ +│ covertype_test_score │ 0.7785000205039978 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 448.89it/s +Test metrics: [{'covertype_test_loss': 0.5908547639846802, 'lr': 0.0, 'covertype_test_accuracy': 0.7785000205039978, 'covertype_test_precision': 0.7780723571777344, 'covertype_test_recall': 0.7785000205039978, 'covertype_test_f1-score': 0.7769099473953247, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7785000205039978}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 26 samples (1.37%) + Class 1: 945 samples (49.74%) + Class 2: 739 samples (38.89%) + Class 3: 65 samples (3.42%) + Class 4: 85 samples (4.47%) + Class 5: 40 samples (2.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7832 +covertype_test_precision 5% removed: 0.7816 +covertype_test_recall 5% removed: 0.7832 +covertype_test_f1-score 5% removed: 0.7817 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 26 samples (1.44%) + Class 1: 895 samples (49.72%) + Class 2: 715 samples (39.72%) + Class 3: 65 samples (3.61%) + Class 4: 66 samples (3.67%) + Class 5: 33 samples (1.83%) +============================================================ +covertype_test_accuracy 10% removed: 0.7844 +covertype_test_precision 10% removed: 0.7834 +covertype_test_recall 10% removed: 0.7844 +covertype_test_f1-score 10% removed: 0.7833 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 796 samples (49.75%) + Class 2: 668 samples (41.75%) + Class 3: 63 samples (3.94%) + Class 4: 31 samples (1.94%) + Class 5: 22 samples (1.38%) +============================================================ +covertype_test_accuracy 20% removed: 0.7869 +covertype_test_precision 20% removed: 0.7887 +covertype_test_recall 20% removed: 0.7869 +covertype_test_f1-score 20% removed: 0.7871 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 505 samples (50.50%) + Class 2: 422 samples (42.20%) + Class 3: 55 samples (5.50%) + Class 4: 6 samples (0.60%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.8000 +covertype_test_precision 50% removed: 0.8046 +covertype_test_recall 50% removed: 0.8000 +covertype_test_f1-score 50% removed: 0.8018 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpr_4mf8h8/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpr_4mf8h8/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpr_4mf8h8/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpr_4mf8h8/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 123.46it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7887887954711914 │ +│ covertype_val_f1-score │ 0.7846132516860962 │ +│ covertype_val_loss │ 0.5626583695411682 │ +│ covertype_val_precision │ 0.7831594347953796 │ +│ covertype_val_recall │ 0.7887887954711914 │ +│ covertype_val_score │ 0.7887887954711914 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0005000000237487257 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 388.40it/s +Validation metrics: [{'covertype_val_loss': 0.5626583695411682, 'lr': 0.0005000000237487257, 'covertype_val_accuracy': 0.7887887954711914, 'covertype_val_precision': 0.7831594347953796, 'covertype_val_recall': 0.7887887954711914, 'covertype_val_f1-score': 0.7846132516860962, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7887887954711914}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1059 samples (52.95%) + Class 2: 681 samples (34.05%) + Class 3: 59 samples (2.95%) + Class 4: 138 samples (6.90%) + Class 5: 42 samples (2.10%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.781499981880188 │ +│ covertype_test_f1-score │ 0.7781552076339722 │ +│ covertype_test_loss │ 0.5613289475440979 │ +│ covertype_test_precision │ 0.7795113325119019 │ +│ covertype_test_recall │ 0.781499981880188 │ +│ covertype_test_score │ 0.781499981880188 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0005000000819563866 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 323.90it/s +Test metrics: [{'covertype_test_loss': 0.5613289475440979, 'lr': 0.0005000000819563866, 'covertype_test_accuracy': 0.781499981880188, 'covertype_test_precision': 0.7795113325119019, 'covertype_test_recall': 0.781499981880188, 'covertype_test_f1-score': 0.7781552076339722, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.781499981880188}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 1027 samples (54.05%) + Class 2: 664 samples (34.95%) + Class 3: 59 samples (3.11%) + Class 4: 101 samples (5.32%) + Class 5: 31 samples (1.63%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7874 +covertype_test_precision 5% removed: 0.7856 +covertype_test_recall 5% removed: 0.7874 +covertype_test_f1-score 5% removed: 0.7843 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 979 samples (54.39%) + Class 2: 638 samples (35.44%) + Class 3: 59 samples (3.28%) + Class 4: 81 samples (4.50%) + Class 5: 26 samples (1.44%) +============================================================ +covertype_test_accuracy 10% removed: 0.7883 +covertype_test_precision 10% removed: 0.7860 +covertype_test_recall 10% removed: 0.7883 +covertype_test_f1-score 10% removed: 0.7853 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 873 samples (54.56%) + Class 2: 595 samples (37.19%) + Class 3: 57 samples (3.56%) + Class 4: 45 samples (2.81%) + Class 5: 17 samples (1.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7931 +covertype_test_precision 20% removed: 0.7926 +covertype_test_recall 20% removed: 0.7931 +covertype_test_f1-score 20% removed: 0.7919 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 567 samples (56.70%) + Class 2: 363 samples (36.30%) + Class 3: 50 samples (5.00%) + Class 4: 14 samples (1.40%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.8070 +covertype_test_precision 50% removed: 0.8086 +covertype_test_recall 50% removed: 0.8070 +covertype_test_f1-score 50% removed: 0.8058 +Wrote results for resnet on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/resnet_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7758±0.0096 5%: 0.7807±0.0104 10%: 0.7822±0.0085 20%: 0.7864±0.0086 50%: 0.7980±0.0109 +covertype_test_precision 0%: 0.7765±0.0039 5%: 0.7816±0.0040 10%: 0.7825±0.0035 20%: 0.7888±0.0041 50%: 0.8031±0.0057 +covertype_test_recall 0%: 0.7758±0.0096 5%: 0.7807±0.0104 10%: 0.7822±0.0085 20%: 0.7864±0.0086 50%: 0.7980±0.0109 +covertype_test_f1-score 0%: 0.7741±0.0075 5%: 0.7793±0.0083 10%: 0.7808±0.0068 20%: 0.7863±0.0076 50%: 0.7985±0.0094 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'autoint'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1zn4t7x7/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp1zn4t7x7/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1zn4t7x7/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1zn4t7x7/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 97.90it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7507507801055908 │ +│ covertype_val_f1-score │ 0.7478904128074646 │ +│ covertype_val_loss │ 0.6004819869995117 │ +│ covertype_val_precision │ 0.7475725412368774 │ +│ covertype_val_recall │ 0.7507507801055908 │ +│ covertype_val_score │ 0.7507507801055908 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 307.89it/s +Validation metrics: [{'covertype_val_loss': 0.6004819869995117, 'lr': 0.0, 'covertype_val_accuracy': 0.7507507801055908, 'covertype_val_precision': 0.7475725412368774, 'covertype_val_recall': 0.7507507801055908, 'covertype_val_f1-score': 0.7478904128074646, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7507507801055908}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 20 samples (1.00%) + Class 1: 971 samples (48.55%) + Class 2: 755 samples (37.75%) + Class 3: 53 samples (2.65%) + Class 4: 131 samples (6.55%) + Class 5: 66 samples (3.30%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7384999990463257 │ +│ covertype_test_f1-score │ 0.7382409572601318 │ +│ covertype_test_loss │ 0.6091881990432739 │ +│ covertype_test_precision │ 0.7411972880363464 │ +│ covertype_test_recall │ 0.7384999990463257 │ +│ covertype_test_score │ 0.7384999990463257 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 172.43it/s +Test metrics: [{'covertype_test_loss': 0.6091881990432739, 'lr': 0.0, 'covertype_test_accuracy': 0.7384999990463257, 'covertype_test_precision': 0.7411972880363464, 'covertype_test_recall': 0.7384999990463257, 'covertype_test_f1-score': 0.7382409572601318, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7384999990463257}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 20 samples (1.05%) + Class 1: 943 samples (49.63%) + Class 2: 736 samples (38.74%) + Class 3: 53 samples (2.79%) + Class 4: 92 samples (4.84%) + Class 5: 56 samples (2.95%) +============================================================ +covertype_test_accuracy 5% removed: 0.7405 +covertype_test_precision 5% removed: 0.7426 +covertype_test_recall 5% removed: 0.7405 +covertype_test_f1-score 5% removed: 0.7403 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 20 samples (1.11%) + Class 1: 898 samples (49.89%) + Class 2: 710 samples (39.44%) + Class 3: 53 samples (2.94%) + Class 4: 71 samples (3.94%) + Class 5: 48 samples (2.67%) +============================================================ +covertype_test_accuracy 10% removed: 0.7383 +covertype_test_precision 10% removed: 0.7405 +covertype_test_recall 10% removed: 0.7383 +covertype_test_f1-score 10% removed: 0.7383 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 805 samples (50.31%) + Class 2: 662 samples (41.38%) + Class 3: 51 samples (3.19%) + Class 4: 37 samples (2.31%) + Class 5: 30 samples (1.88%) +============================================================ +covertype_test_accuracy 20% removed: 0.7412 +covertype_test_precision 20% removed: 0.7447 +covertype_test_recall 20% removed: 0.7412 +covertype_test_f1-score 20% removed: 0.7420 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 507 samples (50.70%) + Class 2: 428 samples (42.80%) + Class 3: 44 samples (4.40%) + Class 4: 11 samples (1.10%) + Class 5: 4 samples (0.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.7570 +covertype_test_precision 50% removed: 0.7627 +covertype_test_recall 50% removed: 0.7570 +covertype_test_f1-score 50% removed: 0.7587 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1zn4t7x7/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp1zn4t7x7/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1zn4t7x7/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1zn4t7x7/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 90.92it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7637637853622437 │ +│ covertype_val_f1-score │ 0.7628491520881653 │ +│ covertype_val_loss │ 0.6214142441749573 │ +│ covertype_val_precision │ 0.767781674861908 │ +│ covertype_val_recall │ 0.7637637853622437 │ +│ covertype_val_score │ 0.7637637853622437 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 144.09it/s +Validation metrics: [{'covertype_val_loss': 0.6214142441749573, 'lr': 0.0, 'covertype_val_accuracy': 0.7637637853622437, 'covertype_val_precision': 0.767781674861908, 'covertype_val_recall': 0.7637637853622437, 'covertype_val_f1-score': 0.7628491520881653, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7637637853622437}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 975 samples (48.75%) + Class 2: 756 samples (37.80%) + Class 3: 53 samples (2.65%) + Class 4: 132 samples (6.60%) + Class 5: 61 samples (3.05%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7615000009536743 │ +│ covertype_test_f1-score │ 0.7607797384262085 │ +│ covertype_test_loss │ 0.6001258492469788 │ +│ covertype_test_precision │ 0.7633609175682068 │ +│ covertype_test_recall │ 0.7615000009536743 │ +│ covertype_test_score │ 0.7615000009536743 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 144.11it/s +Test metrics: [{'covertype_test_loss': 0.6001258492469788, 'lr': 0.0, 'covertype_test_accuracy': 0.7615000009536743, 'covertype_test_precision': 0.7633609175682068, 'covertype_test_recall': 0.7615000009536743, 'covertype_test_f1-score': 0.7607797384262085, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7615000009536743}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 944 samples (49.68%) + Class 2: 739 samples (38.89%) + Class 3: 53 samples (2.79%) + Class 4: 94 samples (4.95%) + Class 5: 51 samples (2.68%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7679 +covertype_test_precision 5% removed: 0.7706 +covertype_test_recall 5% removed: 0.7679 +covertype_test_f1-score 5% removed: 0.7673 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 18 samples (1.00%) + Class 1: 895 samples (49.72%) + Class 2: 716 samples (39.78%) + Class 3: 53 samples (2.94%) + Class 4: 74 samples (4.11%) + Class 5: 44 samples (2.44%) +============================================================ +covertype_test_accuracy 10% removed: 0.7644 +covertype_test_precision 10% removed: 0.7658 +covertype_test_recall 10% removed: 0.7644 +covertype_test_f1-score 10% removed: 0.7637 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 795 samples (49.69%) + Class 2: 671 samples (41.94%) + Class 3: 52 samples (3.25%) + Class 4: 38 samples (2.38%) + Class 5: 29 samples (1.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.7644 +covertype_test_precision 20% removed: 0.7681 +covertype_test_recall 20% removed: 0.7644 +covertype_test_f1-score 20% removed: 0.7650 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 507 samples (50.70%) + Class 2: 430 samples (43.00%) + Class 3: 45 samples (4.50%) + Class 4: 11 samples (1.10%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7750 +covertype_test_precision 50% removed: 0.7795 +covertype_test_recall 50% removed: 0.7750 +covertype_test_f1-score 50% removed: 0.7762 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1zn4t7x7/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp1zn4t7x7/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1zn4t7x7/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1zn4t7x7/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 42/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 110.16it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.759759783744812 │ +│ covertype_val_f1-score │ 0.7554336190223694 │ +│ covertype_val_loss │ 0.633346676826477 │ +│ covertype_val_precision │ 0.7588301301002502 │ +│ covertype_val_recall │ 0.759759783744812 │ +│ covertype_val_score │ 0.759759783744812 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 4.758647264679894e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 285.77it/s +Validation metrics: [{'covertype_val_loss': 0.633346676826477, 'lr': 4.758647264679894e-05, 'covertype_val_accuracy': 0.759759783744812, 'covertype_val_precision': 0.7588301301002502, 'covertype_val_recall': 0.759759783744812, 'covertype_val_f1-score': 0.7554336190223694, 'covertype_val_support': 999.0, 'covertype_val_score': 0.759759783744812}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 21 samples (1.05%) + Class 1: 1020 samples (51.00%) + Class 2: 706 samples (35.30%) + Class 3: 56 samples (2.80%) + Class 4: 155 samples (7.75%) + Class 5: 41 samples (2.05%) + Class 6: 1 samples (0.05%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7570000290870667 │ +│ covertype_test_f1-score │ 0.7539384365081787 │ +│ covertype_test_loss │ 0.5813758373260498 │ +│ covertype_test_precision │ 0.755577564239502 │ +│ covertype_test_recall │ 0.7570000290870667 │ +│ covertype_test_score │ 0.7570000290870667 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 4.758647264679894e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 308.11it/s +Test metrics: [{'covertype_test_loss': 0.5813758373260498, 'lr': 4.758647264679894e-05, 'covertype_test_accuracy': 0.7570000290870667, 'covertype_test_precision': 0.755577564239502, 'covertype_test_recall': 0.7570000290870667, 'covertype_test_f1-score': 0.7539384365081787, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7570000290870667}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 21 samples (1.11%) + Class 1: 991 samples (52.16%) + Class 2: 689 samples (36.26%) + Class 3: 56 samples (2.95%) + Class 4: 110 samples (5.79%) + Class 5: 33 samples (1.74%) +============================================================ +covertype_test_accuracy 5% removed: 0.7632 +covertype_test_precision 5% removed: 0.7622 +covertype_test_recall 5% removed: 0.7632 +covertype_test_f1-score 5% removed: 0.7612 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 21 samples (1.17%) + Class 1: 942 samples (52.33%) + Class 2: 666 samples (37.00%) + Class 3: 56 samples (3.11%) + Class 4: 90 samples (5.00%) + Class 5: 25 samples (1.39%) +============================================================ +covertype_test_accuracy 10% removed: 0.7589 +covertype_test_precision 10% removed: 0.7594 +covertype_test_recall 10% removed: 0.7589 +covertype_test_f1-score 10% removed: 0.7573 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 16 samples (1.00%) + Class 1: 847 samples (52.94%) + Class 2: 618 samples (38.62%) + Class 3: 55 samples (3.44%) + Class 4: 45 samples (2.81%) + Class 5: 19 samples (1.19%) +============================================================ +covertype_test_accuracy 20% removed: 0.7588 +covertype_test_precision 20% removed: 0.7593 +covertype_test_recall 20% removed: 0.7588 +covertype_test_f1-score 20% removed: 0.7585 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 3 samples (0.30%) + Class 1: 548 samples (54.80%) + Class 2: 387 samples (38.70%) + Class 3: 48 samples (4.80%) + Class 4: 12 samples (1.20%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7690 +covertype_test_precision 50% removed: 0.7691 +covertype_test_recall 50% removed: 0.7690 +covertype_test_f1-score 50% removed: 0.7682 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1zn4t7x7/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp1zn4t7x7/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1zn4t7x7/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1zn4t7x7/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 82.87it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7627627849578857 │ +│ covertype_val_f1-score │ 0.760279655456543 │ +│ covertype_val_loss │ 0.6098397970199585 │ +│ covertype_val_precision │ 0.7602444291114807 │ +│ covertype_val_recall │ 0.7627627849578857 │ +│ covertype_val_score │ 0.7627627849578857 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 323.10it/s +Validation metrics: [{'covertype_val_loss': 0.6098397970199585, 'lr': 0.0, 'covertype_val_accuracy': 0.7627627849578857, 'covertype_val_precision': 0.7602444291114807, 'covertype_val_recall': 0.7627627849578857, 'covertype_val_f1-score': 0.760279655456543, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7627627849578857}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 999 samples (49.95%) + Class 2: 740 samples (37.00%) + Class 3: 54 samples (2.70%) + Class 4: 125 samples (6.25%) + Class 5: 60 samples (3.00%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7559999823570251 │ +│ covertype_test_f1-score │ 0.7551034688949585 │ +│ covertype_test_loss │ 0.6302990317344666 │ +│ covertype_test_precision │ 0.757010817527771 │ +│ covertype_test_recall │ 0.7559999823570251 │ +│ covertype_test_score │ 0.7559999823570251 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 315.30it/s +Test metrics: [{'covertype_test_loss': 0.6302990317344666, 'lr': 0.0, 'covertype_test_accuracy': 0.7559999823570251, 'covertype_test_precision': 0.757010817527771, 'covertype_test_recall': 0.7559999823570251, 'covertype_test_f1-score': 0.7551034688949585, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7559999823570251}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 968 samples (50.95%) + Class 2: 723 samples (38.05%) + Class 3: 54 samples (2.84%) + Class 4: 88 samples (4.63%) + Class 5: 48 samples (2.53%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7626 +covertype_test_precision 5% removed: 0.7643 +covertype_test_recall 5% removed: 0.7626 +covertype_test_f1-score 5% removed: 0.7619 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 18 samples (1.00%) + Class 1: 921 samples (51.17%) + Class 2: 697 samples (38.72%) + Class 3: 54 samples (3.00%) + Class 4: 70 samples (3.89%) + Class 5: 40 samples (2.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.7594 +covertype_test_precision 10% removed: 0.7594 +covertype_test_recall 10% removed: 0.7594 +covertype_test_f1-score 10% removed: 0.7584 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 825 samples (51.56%) + Class 2: 650 samples (40.62%) + Class 3: 53 samples (3.31%) + Class 4: 38 samples (2.38%) + Class 5: 21 samples (1.31%) +============================================================ +covertype_test_accuracy 20% removed: 0.7613 +covertype_test_precision 20% removed: 0.7620 +covertype_test_recall 20% removed: 0.7613 +covertype_test_f1-score 20% removed: 0.7609 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 2 samples (0.20%) + Class 1: 518 samples (51.80%) + Class 2: 418 samples (41.80%) + Class 3: 47 samples (4.70%) + Class 4: 13 samples (1.30%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7660 +covertype_test_precision 50% removed: 0.7668 +covertype_test_recall 50% removed: 0.7660 +covertype_test_f1-score 50% removed: 0.7657 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1zn4t7x7/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp1zn4t7x7/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1zn4t7x7/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1zn4t7x7/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 45/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 117.62it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7317317128181458 │ +│ covertype_val_f1-score │ 0.728509247303009 │ +│ covertype_val_loss │ 0.6368720531463623 │ +│ covertype_val_precision │ 0.7293725609779358 │ +│ covertype_val_recall │ 0.7317317128181458 │ +│ covertype_val_score │ 0.7317317128181458 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 1.5708421415183693e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 264.28it/s +Validation metrics: [{'covertype_val_loss': 0.6368720531463623, 'lr': 1.5708421415183693e-05, 'covertype_val_accuracy': 0.7317317128181458, 'covertype_val_precision': 0.7293725609779358, 'covertype_val_recall': 0.7317317128181458, 'covertype_val_f1-score': 0.728509247303009, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7317317128181458}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 997 samples (49.85%) + Class 2: 727 samples (36.35%) + Class 3: 61 samples (3.05%) + Class 4: 139 samples (6.95%) + Class 5: 55 samples (2.75%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7465000152587891 │ +│ covertype_test_f1-score │ 0.7445163726806641 │ +│ covertype_test_loss │ 0.6152999997138977 │ +│ covertype_test_precision │ 0.7455755472183228 │ +│ covertype_test_recall │ 0.7465000152587891 │ +│ covertype_test_score │ 0.7465000152587891 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 1.5708415958215483e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 258.99it/s +Test metrics: [{'covertype_test_loss': 0.6152999997138977, 'lr': 1.5708415958215483e-05, 'covertype_test_accuracy': 0.7465000152587891, 'covertype_test_precision': 0.7455755472183228, 'covertype_test_recall': 0.7465000152587891, 'covertype_test_f1-score': 0.7445163726806641, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7465000152587891}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 967 samples (50.89%) + Class 2: 709 samples (37.32%) + Class 3: 61 samples (3.21%) + Class 4: 99 samples (5.21%) + Class 5: 46 samples (2.42%) +============================================================ +covertype_test_accuracy 5% removed: 0.7505 +covertype_test_precision 5% removed: 0.7487 +covertype_test_recall 5% removed: 0.7505 +covertype_test_f1-score 5% removed: 0.7488 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 18 samples (1.00%) + Class 1: 920 samples (51.11%) + Class 2: 683 samples (37.94%) + Class 3: 61 samples (3.39%) + Class 4: 79 samples (4.39%) + Class 5: 39 samples (2.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7500 +covertype_test_precision 10% removed: 0.7489 +covertype_test_recall 10% removed: 0.7500 +covertype_test_f1-score 10% removed: 0.7487 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 821 samples (51.31%) + Class 2: 640 samples (40.00%) + Class 3: 59 samples (3.69%) + Class 4: 42 samples (2.62%) + Class 5: 24 samples (1.50%) +============================================================ +covertype_test_accuracy 20% removed: 0.7525 +covertype_test_precision 20% removed: 0.7527 +covertype_test_recall 20% removed: 0.7525 +covertype_test_f1-score 20% removed: 0.7522 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 519 samples (51.90%) + Class 2: 411 samples (41.10%) + Class 3: 51 samples (5.10%) + Class 4: 12 samples (1.20%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7600 +covertype_test_precision 50% removed: 0.7621 +covertype_test_recall 50% removed: 0.7600 +covertype_test_f1-score 50% removed: 0.7607 +Wrote results for autoint on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/autoint_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7519±0.0115 5%: 0.7569±0.0139 10%: 0.7542±0.0128 20%: 0.7556±0.0114 50%: 0.7654±0.0089 +covertype_test_precision 0%: 0.7525±0.0112 5%: 0.7577±0.0144 10%: 0.7548±0.0125 20%: 0.7573±0.0111 50%: 0.7681±0.0087 +covertype_test_recall 0%: 0.7519±0.0115 5%: 0.7569±0.0139 10%: 0.7542±0.0128 20%: 0.7556±0.0114 50%: 0.7654±0.0089 +covertype_test_f1-score 0%: 0.7505±0.0112 5%: 0.7559±0.0137 10%: 0.7533±0.0124 20%: 0.7557±0.0111 50%: 0.7659±0.0085 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'fttransformer'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpvw0gtece/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpvw0gtece/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpvw0gtece/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpvw0gtece/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 80.69it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7457457184791565 │ +│ covertype_val_f1-score │ 0.7425240278244019 │ +│ covertype_val_loss │ 0.5787752270698547 │ +│ covertype_val_precision │ 0.7487484812736511 │ +│ covertype_val_recall │ 0.7457457184791565 │ +│ covertype_val_score │ 0.7457457184791565 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 270.96it/s +Validation metrics: [{'covertype_val_loss': 0.5787752270698547, 'lr': 0.0, 'covertype_val_accuracy': 0.7457457184791565, 'covertype_val_precision': 0.7487484812736511, 'covertype_val_recall': 0.7457457184791565, 'covertype_val_f1-score': 0.7425240278244019, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7457457184791565}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 7 samples (0.35%) + Class 1: 990 samples (49.50%) + Class 2: 753 samples (37.65%) + Class 3: 53 samples (2.65%) + Class 4: 141 samples (7.05%) + Class 5: 51 samples (2.55%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7400000095367432 │ +│ covertype_test_f1-score │ 0.7368359565734863 │ +│ covertype_test_loss │ 0.5770928859710693 │ +│ covertype_test_precision │ 0.7423357963562012 │ +│ covertype_test_recall │ 0.7400000095367432 │ +│ covertype_test_score │ 0.7400000095367432 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 156.61it/s +Test metrics: [{'covertype_test_loss': 0.5770928859710693, 'lr': 0.0, 'covertype_test_accuracy': 0.7400000095367432, 'covertype_test_precision': 0.7423357963562012, 'covertype_test_recall': 0.7400000095367432, 'covertype_test_f1-score': 0.7368359565734863, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7400000095367432}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 7 samples (0.37%) + Class 1: 959 samples (50.47%) + Class 2: 737 samples (38.79%) + Class 3: 53 samples (2.79%) + Class 4: 99 samples (5.21%) + Class 5: 43 samples (2.26%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7463 +covertype_test_precision 5% removed: 0.7493 +covertype_test_recall 5% removed: 0.7463 +covertype_test_f1-score 5% removed: 0.7438 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 7 samples (0.39%) + Class 1: 910 samples (50.56%) + Class 2: 712 samples (39.56%) + Class 3: 53 samples (2.94%) + Class 4: 78 samples (4.33%) + Class 5: 39 samples (2.17%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7444 +covertype_test_precision 10% removed: 0.7480 +covertype_test_recall 10% removed: 0.7444 +covertype_test_f1-score 10% removed: 0.7422 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 3 samples (0.19%) + Class 1: 812 samples (50.75%) + Class 2: 667 samples (41.69%) + Class 3: 51 samples (3.19%) + Class 4: 41 samples (2.56%) + Class 5: 26 samples (1.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7425 +covertype_test_precision 20% removed: 0.7424 +covertype_test_recall 20% removed: 0.7425 +covertype_test_f1-score 20% removed: 0.7402 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 1: 510 samples (51.00%) + Class 2: 431 samples (43.10%) + Class 3: 44 samples (4.40%) + Class 4: 12 samples (1.20%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7620 +covertype_test_precision 50% removed: 0.7634 +covertype_test_recall 50% removed: 0.7620 +covertype_test_f1-score 50% removed: 0.7615 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpvw0gtece/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpvw0gtece/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpvw0gtece/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpvw0gtece/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 72.06it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7747747898101807 │ +│ covertype_val_f1-score │ 0.7688731551170349 │ +│ covertype_val_loss │ 0.5699076652526855 │ +│ covertype_val_precision │ 0.7675707340240479 │ +│ covertype_val_recall │ 0.7747747898101807 │ +│ covertype_val_score │ 0.7747747898101807 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 206.14it/s +Validation metrics: [{'covertype_val_loss': 0.5699076652526855, 'lr': 0.0, 'covertype_val_accuracy': 0.7747747898101807, 'covertype_val_precision': 0.7675707340240479, 'covertype_val_recall': 0.7747747898101807, 'covertype_val_f1-score': 0.7688731551170349, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7747747898101807}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 9 samples (0.45%) + Class 1: 1029 samples (51.45%) + Class 2: 715 samples (35.75%) + Class 3: 61 samples (3.05%) + Class 4: 139 samples (6.95%) + Class 5: 40 samples (2.00%) + Class 6: 7 samples (0.35%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7515000104904175 │ +│ covertype_test_f1-score │ 0.7468096017837524 │ +│ covertype_test_loss │ 0.5801678895950317 │ +│ covertype_test_precision │ 0.7489393949508667 │ +│ covertype_test_recall │ 0.7515000104904175 │ +│ covertype_test_score │ 0.7515000104904175 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 200.09it/s +Test metrics: [{'covertype_test_loss': 0.5801678895950317, 'lr': 0.0, 'covertype_test_accuracy': 0.7515000104904175, 'covertype_test_precision': 0.7489393949508667, 'covertype_test_recall': 0.7515000104904175, 'covertype_test_f1-score': 0.7468096017837524, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7515000104904175}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 9 samples (0.47%) + Class 1: 998 samples (52.53%) + Class 2: 699 samples (36.79%) + Class 3: 61 samples (3.21%) + Class 4: 97 samples (5.11%) + Class 5: 35 samples (1.84%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7574 +covertype_test_precision 5% removed: 0.7562 +covertype_test_recall 5% removed: 0.7574 +covertype_test_f1-score 5% removed: 0.7537 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 9 samples (0.50%) + Class 1: 948 samples (52.67%) + Class 2: 675 samples (37.50%) + Class 3: 61 samples (3.39%) + Class 4: 76 samples (4.22%) + Class 5: 31 samples (1.72%) +============================================================ +covertype_test_accuracy 10% removed: 0.7544 +covertype_test_precision 10% removed: 0.7522 +covertype_test_recall 10% removed: 0.7544 +covertype_test_f1-score 10% removed: 0.7507 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 4 samples (0.25%) + Class 1: 850 samples (53.12%) + Class 2: 630 samples (39.38%) + Class 3: 59 samples (3.69%) + Class 4: 39 samples (2.44%) + Class 5: 18 samples (1.12%) +============================================================ +covertype_test_accuracy 20% removed: 0.7550 +covertype_test_precision 20% removed: 0.7520 +covertype_test_recall 20% removed: 0.7550 +covertype_test_f1-score 20% removed: 0.7517 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 1 samples (0.10%) + Class 1: 530 samples (53.00%) + Class 2: 404 samples (40.40%) + Class 3: 50 samples (5.00%) + Class 4: 12 samples (1.20%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7770 +covertype_test_precision 50% removed: 0.7754 +covertype_test_recall 50% removed: 0.7770 +covertype_test_f1-score 50% removed: 0.7759 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpvw0gtece/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpvw0gtece/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpvw0gtece/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpvw0gtece/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 87.98it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7587587833404541 │ +│ covertype_val_f1-score │ 0.7522929310798645 │ +│ covertype_val_loss │ 0.6039823889732361 │ +│ covertype_val_precision │ 0.7554882764816284 │ +│ covertype_val_recall │ 0.7587587833404541 │ +│ covertype_val_score │ 0.7587587833404541 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 205.10it/s +Validation metrics: [{'covertype_val_loss': 0.6039823889732361, 'lr': 0.0, 'covertype_val_accuracy': 0.7587587833404541, 'covertype_val_precision': 0.7554882764816284, 'covertype_val_recall': 0.7587587833404541, 'covertype_val_f1-score': 0.7522929310798645, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7587587833404541}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 8 samples (0.40%) + Class 1: 1017 samples (50.85%) + Class 2: 724 samples (36.20%) + Class 3: 60 samples (3.00%) + Class 4: 139 samples (6.95%) + Class 5: 49 samples (2.45%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7444999814033508 │ +│ covertype_test_f1-score │ 0.7408697605133057 │ +│ covertype_test_loss │ 0.5820844769477844 │ +│ covertype_test_precision │ 0.7442454695701599 │ +│ covertype_test_recall │ 0.7444999814033508 │ +│ covertype_test_score │ 0.7444999814033508 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 186.53it/s +Test metrics: [{'covertype_test_loss': 0.5820844769477844, 'lr': 0.0, 'covertype_test_accuracy': 0.7444999814033508, 'covertype_test_precision': 0.7442454695701599, 'covertype_test_recall': 0.7444999814033508, 'covertype_test_f1-score': 0.7408697605133057, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7444999814033508}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 8 samples (0.42%) + Class 1: 986 samples (51.89%) + Class 2: 708 samples (37.26%) + Class 3: 60 samples (3.16%) + Class 4: 95 samples (5.00%) + Class 5: 43 samples (2.26%) +============================================================ +covertype_test_accuracy 5% removed: 0.7495 +covertype_test_precision 5% removed: 0.7478 +covertype_test_recall 5% removed: 0.7495 +covertype_test_f1-score 5% removed: 0.7461 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 8 samples (0.44%) + Class 1: 939 samples (52.17%) + Class 2: 680 samples (37.78%) + Class 3: 60 samples (3.33%) + Class 4: 76 samples (4.22%) + Class 5: 37 samples (2.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7494 +covertype_test_precision 10% removed: 0.7483 +covertype_test_recall 10% removed: 0.7494 +covertype_test_f1-score 10% removed: 0.7463 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 3 samples (0.19%) + Class 1: 843 samples (52.69%) + Class 2: 635 samples (39.69%) + Class 3: 59 samples (3.69%) + Class 4: 41 samples (2.56%) + Class 5: 19 samples (1.19%) +============================================================ +covertype_test_accuracy 20% removed: 0.7500 +covertype_test_precision 20% removed: 0.7462 +covertype_test_recall 20% removed: 0.7500 +covertype_test_f1-score 20% removed: 0.7466 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 1: 523 samples (52.30%) + Class 2: 411 samples (41.10%) + Class 3: 53 samples (5.30%) + Class 4: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7600 +covertype_test_precision 50% removed: 0.7567 +covertype_test_recall 50% removed: 0.7600 +covertype_test_f1-score 50% removed: 0.7581 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpvw0gtece/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpvw0gtece/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpvw0gtece/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpvw0gtece/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 62.71it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7557557821273804 │ +│ covertype_val_f1-score │ 0.7499321103096008 │ +│ covertype_val_loss │ 0.5850926637649536 │ +│ covertype_val_precision │ 0.7519928216934204 │ +│ covertype_val_recall │ 0.7557557821273804 │ +│ covertype_val_score │ 0.7557557821273804 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 118.41it/s +Validation metrics: [{'covertype_val_loss': 0.5850926637649536, 'lr': 0.0, 'covertype_val_accuracy': 0.7557557821273804, 'covertype_val_precision': 0.7519928216934204, 'covertype_val_recall': 0.7557557821273804, 'covertype_val_f1-score': 0.7499321103096008, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7557557821273804}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 11 samples (0.55%) + Class 1: 1024 samples (51.20%) + Class 2: 712 samples (35.60%) + Class 3: 59 samples (2.95%) + Class 4: 147 samples (7.35%) + Class 5: 43 samples (2.15%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7605000138282776 │ +│ covertype_test_f1-score │ 0.757686972618103 │ +│ covertype_test_loss │ 0.5670088529586792 │ +│ covertype_test_precision │ 0.7623372673988342 │ +│ covertype_test_recall │ 0.7605000138282776 │ +│ covertype_test_score │ 0.7605000138282776 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 132.23it/s +Test metrics: [{'covertype_test_loss': 0.5670088529586792, 'lr': 0.0, 'covertype_test_accuracy': 0.7605000138282776, 'covertype_test_precision': 0.7623372673988342, 'covertype_test_recall': 0.7605000138282776, 'covertype_test_f1-score': 0.757686972618103, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7605000138282776}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 11 samples (0.58%) + Class 1: 994 samples (52.32%) + Class 2: 697 samples (36.68%) + Class 3: 59 samples (3.11%) + Class 4: 99 samples (5.21%) + Class 5: 39 samples (2.05%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7674 +covertype_test_precision 5% removed: 0.7695 +covertype_test_recall 5% removed: 0.7674 +covertype_test_f1-score 5% removed: 0.7654 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 11 samples (0.61%) + Class 1: 949 samples (52.72%) + Class 2: 671 samples (37.28%) + Class 3: 59 samples (3.28%) + Class 4: 78 samples (4.33%) + Class 5: 32 samples (1.78%) +============================================================ +covertype_test_accuracy 10% removed: 0.7661 +covertype_test_precision 10% removed: 0.7668 +covertype_test_recall 10% removed: 0.7661 +covertype_test_f1-score 10% removed: 0.7639 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 854 samples (53.37%) + Class 2: 623 samples (38.94%) + Class 3: 58 samples (3.62%) + Class 4: 42 samples (2.62%) + Class 5: 16 samples (1.00%) +============================================================ +covertype_test_accuracy 20% removed: 0.7694 +covertype_test_precision 20% removed: 0.7692 +covertype_test_recall 20% removed: 0.7694 +covertype_test_f1-score 20% removed: 0.7675 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 2 samples (0.20%) + Class 1: 551 samples (55.10%) + Class 2: 384 samples (38.40%) + Class 3: 50 samples (5.00%) + Class 4: 12 samples (1.20%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7760 +covertype_test_precision 50% removed: 0.7732 +covertype_test_recall 50% removed: 0.7760 +covertype_test_f1-score 50% removed: 0.7738 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpvw0gtece/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpvw0gtece/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpvw0gtece/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpvw0gtece/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 80.39it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7567567825317383 │ +│ covertype_val_f1-score │ 0.7521353363990784 │ +│ covertype_val_loss │ 0.5700529217720032 │ +│ covertype_val_precision │ 0.7552215456962585 │ +│ covertype_val_recall │ 0.7567567825317383 │ +│ covertype_val_score │ 0.7567567825317383 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 226.59it/s +Validation metrics: [{'covertype_val_loss': 0.5700529217720032, 'lr': 0.0, 'covertype_val_accuracy': 0.7567567825317383, 'covertype_val_precision': 0.7552215456962585, 'covertype_val_recall': 0.7567567825317383, 'covertype_val_f1-score': 0.7521353363990784, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7567567825317383}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 10 samples (0.50%) + Class 1: 996 samples (49.80%) + Class 2: 747 samples (37.35%) + Class 3: 57 samples (2.85%) + Class 4: 128 samples (6.40%) + Class 5: 58 samples (2.90%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7519999742507935 │ +│ covertype_test_f1-score │ 0.7499125003814697 │ +│ covertype_test_loss │ 0.5623732805252075 │ +│ covertype_test_precision │ 0.7535451650619507 │ +│ covertype_test_recall │ 0.7519999742507935 │ +│ covertype_test_score │ 0.7519999742507935 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 233.84it/s +Test metrics: [{'covertype_test_loss': 0.5623732805252075, 'lr': 0.0, 'covertype_test_accuracy': 0.7519999742507935, 'covertype_test_precision': 0.7535451650619507, 'covertype_test_recall': 0.7519999742507935, 'covertype_test_f1-score': 0.7499125003814697, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7519999742507935}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 10 samples (0.53%) + Class 1: 965 samples (50.79%) + Class 2: 731 samples (38.47%) + Class 3: 57 samples (3.00%) + Class 4: 86 samples (4.53%) + Class 5: 50 samples (2.63%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7589 +covertype_test_precision 5% removed: 0.7613 +covertype_test_recall 5% removed: 0.7589 +covertype_test_f1-score 5% removed: 0.7572 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 10 samples (0.56%) + Class 1: 914 samples (50.78%) + Class 2: 708 samples (39.33%) + Class 3: 57 samples (3.17%) + Class 4: 69 samples (3.83%) + Class 5: 42 samples (2.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.7567 +covertype_test_precision 10% removed: 0.7575 +covertype_test_recall 10% removed: 0.7567 +covertype_test_f1-score 10% removed: 0.7547 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 6 samples (0.38%) + Class 1: 816 samples (51.00%) + Class 2: 662 samples (41.38%) + Class 3: 56 samples (3.50%) + Class 4: 35 samples (2.19%) + Class 5: 25 samples (1.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7563 +covertype_test_precision 20% removed: 0.7563 +covertype_test_recall 20% removed: 0.7563 +covertype_test_f1-score 20% removed: 0.7546 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 1 samples (0.10%) + Class 1: 511 samples (51.10%) + Class 2: 426 samples (42.60%) + Class 3: 48 samples (4.80%) + Class 4: 12 samples (1.20%) + Class 5: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7720 +covertype_test_precision 50% removed: 0.7725 +covertype_test_recall 50% removed: 0.7720 +covertype_test_f1-score 50% removed: 0.7715 +Wrote results for fttransformer on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/fttransformer_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7497±0.0097 5%: 0.7559±0.0103 10%: 0.7542±0.0101 20%: 0.7546±0.0122 50%: 0.7694±0.0098 +covertype_test_precision 0%: 0.7503±0.0100 5%: 0.7568±0.0111 10%: 0.7545±0.0097 20%: 0.7532±0.0129 50%: 0.7682±0.0098 +covertype_test_recall 0%: 0.7497±0.0097 5%: 0.7559±0.0103 10%: 0.7542±0.0101 20%: 0.7546±0.0122 50%: 0.7694±0.0098 +covertype_test_f1-score 0%: 0.7464±0.0100 5%: 0.7532±0.0108 10%: 0.7516±0.0104 20%: 0.7521±0.0127 50%: 0.7682±0.0098 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'xgboost'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=xgboost --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy --use_split_assignments=True --exp_train_total_epochs=1 --split_config_file=/tmp/tmp40okrnnp/split_data/split_config.json --sigma_aggregation=mean --n_estimators=100 --max_depth=3 --learning_rate=0.1 --subsample=1.0 --colsample_bytree=1.0 --reg_alpha=0.0 --reg_lambda=1.0 --n_jobs=-1 --random_state=42 --encoder_type=linear_flatten --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp40okrnnp/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 64 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ -1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.0001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ xgboost │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp40okrnnp/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp40okrnnp/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 1e-05 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: xgboost + +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +XGBoostLightning [1, 3456] [1, 3456] -- -- -- +===================================================================================================================================================================== +Total params: 0 +Trainable params: 0 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 0 +===================================================================================================================================================================== +Input size (MB): 0.01 +Forward/backward pass size (MB): 0.00 +Params size (MB): 0.00 +Estimated Total Size (MB): 0.01 +===================================================================================================================================================================== +GPU available: True (cuda), used: False +TPU available: False, using: 0 TPU cores +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/setup.py:175: GPU available but not used. You can set it by doing `Trainer(accelerator='gpu')`. +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1)` was configured so 1 batch per epoch will be used. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/core/optimizer.py:183: `LightningModule.configure_optimizers` returned `None`, this fit will run with no optimizer +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Identity │ 0 │ train │ 0 │ +│ 2 │ encoder │ Identity │ 0 │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 0 +Non-trainable params: 0 +Total params: 0 +Total estimated model params size (MB): 0.000 +Modules in train mode: 3 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=1` reached. +Epoch 0/0 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 1/1 0:00:00 • 0:00:00 0.00it/s +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.770770788192749 │ +│ covertype_val_f1-score │ 0.7660241723060608 │ +│ covertype_val_loss │ 0.67635178565979 │ +│ covertype_val_precision │ 0.768599271774292 │ +│ covertype_val_recall │ 0.770770788192749 │ +│ covertype_val_score │ 0.770770788192749 │ +│ covertype_val_support │ 999.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:16 • 0:00:00 0.95it/s +Validation metrics: [{'covertype_val_loss': 0.67635178565979, 'covertype_val_accuracy': 0.770770788192749, 'covertype_val_precision': 0.768599271774292, 'covertype_val_recall': 0.770770788192749, 'covertype_val_f1-score': 0.7660241723060608, 'covertype_val_support': 999.0, 'covertype_val_score': 0.770770788192749}] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 12 samples (0.60%) + Class 1: 1015 samples (50.75%) + Class 2: 734 samples (36.70%) + Class 3: 56 samples (2.80%) + Class 4: 127 samples (6.35%) + Class 5: 53 samples (2.65%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.796500027179718 │ +│ covertype_test_f1-score │ 0.7943921089172363 │ +│ covertype_test_loss │ 0.6071905493736267 │ +│ covertype_test_precision │ 0.7983784675598145 │ +│ covertype_test_recall │ 0.796500027179718 │ +│ covertype_test_score │ 0.796500027179718 │ +│ covertype_test_support │ 2000.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 32/32 0:00:38 • 0:00:00 0.90it/s +Test metrics: [{'covertype_test_loss': 0.6071905493736267, 'covertype_test_accuracy': 0.796500027179718, 'covertype_test_precision': 0.7983784675598145, 'covertype_test_recall': 0.796500027179718, 'covertype_test_f1-score': 0.7943921089172363, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.796500027179718}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 987 samples (51.95%) + Class 2: 689 samples (36.26%) + Class 3: 64 samples (3.37%) + Class 4: 79 samples (4.16%) + Class 5: 46 samples (2.42%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 12 samples (0.63%) + Class 1: 987 samples (51.95%) + Class 2: 716 samples (37.68%) + Class 3: 56 samples (2.95%) + Class 4: 88 samples (4.63%) + Class 5: 41 samples (2.16%) +============================================================ +covertype_test_accuracy 5% removed: 0.8005 +covertype_test_precision 5% removed: 0.8007 +covertype_test_recall 5% removed: 0.8005 +covertype_test_f1-score 5% removed: 0.7982 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 30 samples (1.67%) + Class 1: 934 samples (51.89%) + Class 2: 670 samples (37.22%) + Class 3: 64 samples (3.56%) + Class 4: 60 samples (3.33%) + Class 5: 39 samples (2.17%) + Class 6: 3 samples (0.17%) +Predicted class frequencies: + Class 0: 12 samples (0.67%) + Class 1: 938 samples (52.11%) + Class 2: 693 samples (38.50%) + Class 3: 56 samples (3.11%) + Class 4: 69 samples (3.83%) + Class 5: 32 samples (1.78%) +============================================================ +covertype_test_accuracy 10% removed: 0.8011 +covertype_test_precision 10% removed: 0.8017 +covertype_test_recall 10% removed: 0.8011 +covertype_test_f1-score 10% removed: 0.7990 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 20 samples (1.25%) + Class 1: 837 samples (52.31%) + Class 2: 625 samples (39.06%) + Class 3: 63 samples (3.94%) + Class 4: 34 samples (2.12%) + Class 5: 21 samples (1.31%) +Predicted class frequencies: + Class 0: 8 samples (0.50%) + Class 1: 839 samples (52.44%) + Class 2: 645 samples (40.31%) + Class 3: 55 samples (3.44%) + Class 4: 34 samples (2.12%) + Class 5: 19 samples (1.19%) +============================================================ +covertype_test_accuracy 20% removed: 0.8037 +covertype_test_precision 20% removed: 0.8047 +covertype_test_recall 20% removed: 0.8037 +covertype_test_f1-score 20% removed: 0.8026 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 526 samples (52.60%) + Class 2: 404 samples (40.40%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) + Class 5: 3 samples (0.30%) +Predicted class frequencies: + Class 0: 2 samples (0.20%) + Class 1: 520 samples (52.00%) + Class 2: 417 samples (41.70%) + Class 3: 49 samples (4.90%) + Class 4: 11 samples (1.10%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8090 +covertype_test_precision 50% removed: 0.8087 +covertype_test_recall 50% removed: 0.8090 +covertype_test_f1-score 50% removed: 0.8083 +Wrote results for xgboost on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/xgboost_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7965±NA 5%: 0.8005±NA 10%: 0.8011±NA 20%: 0.8037±NA 50%: 0.8090±NA +covertype_test_precision 0%: 0.7984±NA 5%: 0.8007±NA 10%: 0.8017±NA 20%: 0.8047±NA 50%: 0.8087±NA +covertype_test_recall 0%: 0.7965±NA 5%: 0.8005±NA 10%: 0.8011±NA 20%: 0.8037±NA 50%: 0.8090±NA +covertype_test_f1-score 0%: 0.7944±NA 5%: 0.7982±NA 10%: 0.7990±NA 20%: 0.8026±NA 50%: 0.8083±NA +covertype_test_support 0%: 2000.0000±NA 5%: 1900.0000±NA 10%: 1800.0000±NA 20%: 1600.0000±NA 50%: 1000.0000±NA + +================================================================================ +FINAL SUMMARY: Test Accuracy by Model and Uncertainty Filtering Percentage +Dataset: covertype +================================================================================ +Model 0% removed 5% removed 10% removed 20% removed 50% removed +-------------------------------------------------------------------------------- +mlp 0.6863±0.0847 0.6913±0.0880 0.6887±0.0853 0.6900±0.0879 0.6962±0.0918 +dcnv2 0.7835±0.0066 0.7906±0.0068 0.7918±0.0078 0.7960±0.0095 0.8018±0.0141 +resnet 0.7758±0.0096 0.7807±0.0104 0.7822±0.0085 0.7864±0.0086 0.7980±0.0109 +autoint 0.7519±0.0115 0.7569±0.0139 0.7542±0.0128 0.7556±0.0114 0.7654±0.0089 +fttransformer 0.7497±0.0097 0.7559±0.0103 0.7542±0.0101 0.7546±0.0122 0.7694±0.0098 +xgboost 0.7965± NA 0.8005± NA 0.8011± NA 0.8037± NA 0.8090± NA +================================================================================ + +Downstream pipeline complete. Results under /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/launchers/hessian/current/launch_hessian_wjepa_covertype_kl_sweep_8proc.sh: line 235: unexpected EOF while looking for matching `"' diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue7-gpu3-kl1e-5.log b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue7-gpu3-kl1e-5.log new file mode 100644 index 0000000000000000000000000000000000000000..196f612e45a17b54d56fe83202117b5e4f0e2233 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/logs/queue7-gpu3-kl1e-5.log @@ -0,0 +1,22769 @@ +[2026-09-17T17:19:37+00:00] tag=queue7-gpu3-kl1e-5 gpu=3 dataset=covertype predictive_kl_end=0.00001 full=0.001875 sx=0.00075 +{ + "dataset": "covertype", + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "1e-05", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} +Not SLURM job. +╒══════════════════════════════════════════════════════════╤═════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ mock │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ activation_checkpointing │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 42 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_seed │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ deterministic_mode │ warn │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pre_evaluation │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 512 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 500 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ improvement │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_val_cache_cadence │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ init_type │ trunc_normal │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_start_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_lr │ 0.0005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 12 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_ipe_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_gradient_clipping │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_type_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_index_embedding │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dropout_prob │ 0.0015 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_hidden │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_feedforward │ 64 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_heads │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_layers │ 8 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_act_func │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_cadence │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_model │ linear_probe │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ n_cls_tokens │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_type │ transformer │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_layers │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_embed_dim │ 16 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_heads │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_p_dropout │ 0.002 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_activation │ relu │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_dim_feedforward │ 256 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_allow_overlap │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_ctx_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_ctx_share │ 0.35 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_trgt_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_trgt_share │ 0.6 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_preds │ 4 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_encs │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mu_init_std │ 0.03 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_std │ 0.005 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_bias │ -4.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_x_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_y_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_evaluation_epochs │ 50 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_probe_patience │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_representation_type │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_encoder_type │ target_posterior │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_target_posterior │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_auxiliary_encoder │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_end_weight │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_end_weight │ 1e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_annealing_epochs │ 20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_x_weight │ 0.001 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_y_weight │ 0.5 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ latent_architecture │ stochastic │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ jepa_objective │ w_jepa_joint │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_full_num_projections │ 2048 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_marginal_num_projections │ 1024 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_p │ 2 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_include_marginals │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_x_weight │ 0.00075 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_z_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_y_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_end_weight │ 0.001875 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ safe_exit │ False │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_selection │ filtered_20 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sigma_aggregation │ mean │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ subset_size │ -1 │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ is_batchlearning │ True │ +├──────────────────────────────────────────────────────────┼─────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ iteration │ 0 │ +╘══════════════════════════════════════════════════════════╧═════════════════════════════════════════════════════════════════════════════════════════════════════════╛ + +CUDA Device Information: +CUDA_VISIBLE_DEVICES: 3 +Number of CUDA devices: 1 +Current CUDA device: 0 +CUDA device name: NVIDIA A100-SXM4-80GB + +Using device: cuda:0 +Device name: NVIDIA A100-SXM4-80GB +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +VariationalTJEPA parameters: ++-------------------------+---------+ +| Parameter | Value | ++=========================+=========+ +| hidden_dim | 64 | ++-------------------------+---------+ +| num_layers | 8 | ++-------------------------+---------+ +| num_heads | 8 | ++-------------------------+---------+ +| p_dropout | 0.0015 | ++-------------------------+---------+ +| layer_norm_eps | 1e-05 | ++-------------------------+---------+ +| feature_type_embedding | True | ++-------------------------+---------+ +| feature_index_embedding | True | ++-------------------------+---------+ +| dim_feedforward | 64 | ++-------------------------+---------+ +| use_reg_token | True | ++-------------------------+---------+ +| gradient_clipping | 1.0 | ++-------------------------+---------+ +| activation | gelu | ++-------------------------+---------+ +| num_features | 54 | ++-------------------------+---------+ +| n_cls_tokens | 1 | ++-------------------------+---------+ +MaskCollator params: +----------------- ----- +Allow overlap False +Min context share 0.15 +Max context share 0.35 +Min target share 0.15 +Max target share 0.6 +Min context 8 +Max context 18 +Min target 8 +Max target 32 +Num preds 4 +Num encs 1 +Num features 54 +Cardinalities [] +Base mask seed 0 +----------------- ----- +KL-x annealing: start=0.0 for 20 steps, then anneal to 1e-06 over 1200 steps. +KL-z annealing: start=0.0 for 20 steps, then anneal to 1e-05 over 1200 steps. +KL-y annealing: start=0.0 for 20 steps, then anneal to 1e-05 over 400 steps. +W-JEPA marginal-scale annealing (s_x): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (z): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (s_y): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +Configuration saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/vtjepa_config.yaml +All results will be saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010 +[VTJEPA] Running downstream probe before training begins +Using full dataset for embedding generation: covertype +Generating embedding using: JEPAEmbeddingEncoder on full dataset + 0%| | 0/20 [00:00= 15) +[VTJEPA] Early stopping triggered at epoch 98 + Best downstream validation score: 0.756250 at epoch 67 + No improvement for 15 probe evaluations +Restored best downstream-selected checkpoint from epoch 67. +Training completed. +[2026-09-17T17:55:28+00:00] tag=queue7-gpu3-kl1e-5 dataset=covertype starting downstream models=mlp,dcnv2,resnet,autoint,fttransformer,xgboost +[Config] Loaded sigma_aggregation=mean from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/vtjepa_config.yaml +[Config] Loaded training data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/vtjepa_config.yaml +Split statistics: + val: 999 samples + test: 2000 samples + train: 7001 samples +Running downstream for dataset 'covertype', model 'mlp'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpmpi6vp5z/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpmpi6vp5z/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpmpi6vp5z/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpmpi6vp5z/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 116.52it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7007007002830505 │ +│ covertype_val_f1-score │ 0.6849821209907532 │ +│ covertype_val_loss │ 0.7085561752319336 │ +│ covertype_val_precision │ 0.7081019282341003 │ +│ covertype_val_recall │ 0.7007007002830505 │ +│ covertype_val_score │ 0.7007007002830505 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 156.59it/s +Validation metrics: [{'covertype_val_loss': 0.7085561752319336, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7007007002830505, 'covertype_val_precision': 0.7081019282341003, 'covertype_val_recall': 0.7007007002830505, 'covertype_val_f1-score': 0.6849821209907532, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7007007002830505}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 778 samples (38.90%) + Class 2: 1025 samples (51.25%) + Class 3: 57 samples (2.85%) + Class 4: 135 samples (6.75%) + Class 5: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6934999823570251 │ +│ covertype_test_f1-score │ 0.6763576865196228 │ +│ covertype_test_loss │ 0.6944730281829834 │ +│ covertype_test_precision │ 0.7106301188468933 │ +│ covertype_test_recall │ 0.6934999823570251 │ +│ covertype_test_score │ 0.6934999823570251 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 275.33it/s +Test metrics: [{'covertype_test_loss': 0.6944730281829834, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6934999823570251, 'covertype_test_precision': 0.7106301188468933, 'covertype_test_recall': 0.6934999823570251, 'covertype_test_f1-score': 0.6763576865196228, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6934999823570251}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 1: 756 samples (39.79%) + Class 2: 1022 samples (53.79%) + Class 3: 56 samples (2.95%) + Class 4: 64 samples (3.37%) + Class 5: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7016 +covertype_test_precision 5% removed: 0.7174 +covertype_test_recall 5% removed: 0.7016 +covertype_test_f1-score 5% removed: 0.6892 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 1: 700 samples (38.89%) + Class 2: 1017 samples (56.50%) + Class 3: 47 samples (2.61%) + Class 4: 36 samples (2.00%) +============================================================ +covertype_test_accuracy 10% removed: 0.7061 +covertype_test_precision 10% removed: 0.7283 +covertype_test_recall 10% removed: 0.7061 +covertype_test_f1-score 10% removed: 0.6969 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 1: 586 samples (36.62%) + Class 2: 962 samples (60.12%) + Class 3: 34 samples (2.12%) + Class 4: 18 samples (1.12%) +============================================================ +covertype_test_accuracy 20% removed: 0.7100 +covertype_test_precision 20% removed: 0.7491 +covertype_test_recall 20% removed: 0.7100 +covertype_test_f1-score 20% removed: 0.7032 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 1: 338 samples (33.80%) + Class 2: 656 samples (65.60%) + Class 3: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7100 +covertype_test_precision 50% removed: 0.7585 +covertype_test_recall 50% removed: 0.7100 +covertype_test_f1-score 50% removed: 0.7019 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpmpi6vp5z/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpmpi6vp5z/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpmpi6vp5z/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpmpi6vp5z/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 76.62it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.706706702709198 │ +│ covertype_val_f1-score │ 0.6952343583106995 │ +│ covertype_val_loss │ 0.6748036742210388 │ +│ covertype_val_precision │ 0.707279622554779 │ +│ covertype_val_recall │ 0.706706702709198 │ +│ covertype_val_score │ 0.706706702709198 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 553.44it/s +Validation metrics: [{'covertype_val_loss': 0.6748036742210388, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.706706702709198, 'covertype_val_precision': 0.707279622554779, 'covertype_val_recall': 0.706706702709198, 'covertype_val_f1-score': 0.6952343583106995, 'covertype_val_support': 999.0, 'covertype_val_score': 0.706706702709198}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 4 samples (0.20%) + Class 1: 874 samples (43.70%) + Class 2: 914 samples (45.70%) + Class 3: 46 samples (2.30%) + Class 4: 133 samples (6.65%) + Class 5: 22 samples (1.10%) + Class 6: 7 samples (0.35%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7095000147819519 │ +│ covertype_test_f1-score │ 0.7009625434875488 │ +│ covertype_test_loss │ 0.6648179888725281 │ +│ covertype_test_precision │ 0.7134241461753845 │ +│ covertype_test_recall │ 0.7095000147819519 │ +│ covertype_test_score │ 0.7095000147819519 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 561.76it/s +Test metrics: [{'covertype_test_loss': 0.6648179888725281, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7095000147819519, 'covertype_test_precision': 0.7134241461753845, 'covertype_test_recall': 0.7095000147819519, 'covertype_test_f1-score': 0.7009625434875488, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7095000147819519}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 4 samples (0.21%) + Class 1: 865 samples (45.53%) + Class 2: 911 samples (47.95%) + Class 3: 45 samples (2.37%) + Class 4: 68 samples (3.58%) + Class 5: 6 samples (0.32%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7132 +covertype_test_precision 5% removed: 0.7155 +covertype_test_recall 5% removed: 0.7132 +covertype_test_f1-score 5% removed: 0.7050 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 3 samples (0.17%) + Class 1: 822 samples (45.67%) + Class 2: 902 samples (50.11%) + Class 3: 39 samples (2.17%) + Class 4: 33 samples (1.83%) + Class 5: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7206 +covertype_test_precision 10% removed: 0.7240 +covertype_test_recall 10% removed: 0.7206 +covertype_test_f1-score 10% removed: 0.7145 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 2 samples (0.12%) + Class 1: 710 samples (44.38%) + Class 2: 844 samples (52.75%) + Class 3: 28 samples (1.75%) + Class 4: 15 samples (0.94%) + Class 5: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7250 +covertype_test_precision 20% removed: 0.7392 +covertype_test_recall 20% removed: 0.7250 +covertype_test_f1-score 20% removed: 0.7222 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 1: 440 samples (44.00%) + Class 2: 554 samples (55.40%) + Class 3: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7300 +covertype_test_precision 50% removed: 0.7423 +covertype_test_recall 50% removed: 0.7300 +covertype_test_f1-score 50% removed: 0.7281 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpmpi6vp5z/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpmpi6vp5z/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpmpi6vp5z/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpmpi6vp5z/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 41/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 63.61it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.6526526808738708 │ +│ covertype_val_f1-score │ 0.6391211152076721 │ +│ covertype_val_loss │ 0.9313152432441711 │ +│ covertype_val_precision │ 0.6704307794570923 │ +│ covertype_val_recall │ 0.6526526808738708 │ +│ covertype_val_score │ 0.6526526808738708 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 89.61it/s +Validation metrics: [{'covertype_val_loss': 0.9313152432441711, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.6526526808738708, 'covertype_val_precision': 0.6704307794570923, 'covertype_val_recall': 0.6526526808738708, 'covertype_val_f1-score': 0.6391211152076721, 'covertype_val_support': 999.0, 'covertype_val_score': 0.6526526808738708}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1149 samples (57.45%) + Class 2: 443 samples (22.15%) + Class 3: 54 samples (2.70%) + Class 4: 346 samples (17.30%) + Class 5: 1 samples (0.05%) + Class 6: 7 samples (0.35%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6439999938011169 │ +│ covertype_test_f1-score │ 0.6343151330947876 │ +│ covertype_test_loss │ 0.9191003441810608 │ +│ covertype_test_precision │ 0.6708754301071167 │ +│ covertype_test_recall │ 0.6439999938011169 │ +│ covertype_test_score │ 0.6439999938011169 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 202.57it/s +Test metrics: [{'covertype_test_loss': 0.9191003441810608, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6439999938011169, 'covertype_test_precision': 0.6708754301071167, 'covertype_test_recall': 0.6439999938011169, 'covertype_test_f1-score': 0.6343151330947876, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6439999938011169}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 1: 1149 samples (60.47%) + Class 2: 440 samples (23.16%) + Class 3: 53 samples (2.79%) + Class 4: 256 samples (13.47%) + Class 5: 1 samples (0.05%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.6511 +covertype_test_precision 5% removed: 0.6891 +covertype_test_recall 5% removed: 0.6511 +covertype_test_f1-score 5% removed: 0.6479 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 1: 1141 samples (63.39%) + Class 2: 433 samples (24.06%) + Class 3: 47 samples (2.61%) + Class 4: 178 samples (9.89%) + Class 5: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.6678 +covertype_test_precision 10% removed: 0.7084 +covertype_test_recall 10% removed: 0.6678 +covertype_test_f1-score 10% removed: 0.6661 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 1: 1060 samples (66.25%) + Class 2: 413 samples (25.81%) + Class 3: 33 samples (2.06%) + Class 4: 94 samples (5.88%) +============================================================ +covertype_test_accuracy 20% removed: 0.6956 +covertype_test_precision 20% removed: 0.7305 +covertype_test_recall 20% removed: 0.6956 +covertype_test_f1-score 20% removed: 0.6918 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 1: 712 samples (71.20%) + Class 2: 262 samples (26.20%) + Class 3: 7 samples (0.70%) + Class 4: 19 samples (1.90%) +============================================================ +covertype_test_accuracy 50% removed: 0.7000 +covertype_test_precision 50% removed: 0.7404 +covertype_test_recall 50% removed: 0.7000 +covertype_test_f1-score 50% removed: 0.6911 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpmpi6vp5z/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpmpi6vp5z/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpmpi6vp5z/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpmpi6vp5z/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 78.92it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.6446446180343628 │ +│ covertype_val_f1-score │ 0.5902411937713623 │ +│ covertype_val_loss │ 0.7753435373306274 │ +│ covertype_val_precision │ 0.6348298788070679 │ +│ covertype_val_recall │ 0.6446446180343628 │ +│ covertype_val_score │ 0.6446446180343628 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 100.65it/s +Validation metrics: [{'covertype_val_loss': 0.7753435373306274, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.6446446180343628, 'covertype_val_precision': 0.6348298788070679, 'covertype_val_recall': 0.6446446180343628, 'covertype_val_f1-score': 0.5902411937713623, 'covertype_val_support': 999.0, 'covertype_val_score': 0.6446446180343628}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1475 samples (73.75%) + Class 2: 292 samples (14.60%) + Class 3: 14 samples (0.70%) + Class 4: 219 samples (10.95%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6384999752044678 │ +│ covertype_test_f1-score │ 0.5851503014564514 │ +│ covertype_test_loss │ 0.7794994115829468 │ +│ covertype_test_precision │ 0.6480629444122314 │ +│ covertype_test_recall │ 0.6384999752044678 │ +│ covertype_test_score │ 0.6384999752044678 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 126.94it/s +Test metrics: [{'covertype_test_loss': 0.7794994115829468, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6384999752044678, 'covertype_test_precision': 0.6480629444122314, 'covertype_test_recall': 0.6384999752044678, 'covertype_test_f1-score': 0.5851503014564514, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6384999752044678}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 1: 1473 samples (77.53%) + Class 2: 289 samples (15.21%) + Class 3: 14 samples (0.74%) + Class 4: 124 samples (6.53%) +============================================================ +covertype_test_accuracy 5% removed: 0.6468 +covertype_test_precision 5% removed: 0.6670 +covertype_test_recall 5% removed: 0.6468 +covertype_test_f1-score 5% removed: 0.5972 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 1: 1438 samples (79.89%) + Class 2: 282 samples (15.67%) + Class 3: 13 samples (0.72%) + Class 4: 67 samples (3.72%) +============================================================ +covertype_test_accuracy 10% removed: 0.6578 +covertype_test_precision 10% removed: 0.6861 +covertype_test_recall 10% removed: 0.6578 +covertype_test_f1-score 10% removed: 0.6102 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 1: 1294 samples (80.88%) + Class 2: 261 samples (16.31%) + Class 3: 11 samples (0.69%) + Class 4: 34 samples (2.12%) +============================================================ +covertype_test_accuracy 20% removed: 0.6606 +covertype_test_precision 20% removed: 0.6986 +covertype_test_recall 20% removed: 0.6606 +covertype_test_f1-score 20% removed: 0.6148 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 1: 839 samples (83.90%) + Class 2: 157 samples (15.70%) + Class 3: 2 samples (0.20%) + Class 4: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.6510 +covertype_test_precision 50% removed: 0.7184 +covertype_test_recall 50% removed: 0.6510 +covertype_test_f1-score 50% removed: 0.6026 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpmpi6vp5z/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpmpi6vp5z/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpmpi6vp5z/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpmpi6vp5z/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 29/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 118.52it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7187187075614929 │ +│ covertype_val_f1-score │ 0.7000402808189392 │ +│ covertype_val_loss │ 0.6540750861167908 │ +│ covertype_val_precision │ 0.7023812532424927 │ +│ covertype_val_recall │ 0.7187187075614929 │ +│ covertype_val_score │ 0.7187187075614929 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 123.96it/s +Validation metrics: [{'covertype_val_loss': 0.6540750861167908, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7187187075614929, 'covertype_val_precision': 0.7023812532424927, 'covertype_val_recall': 0.7187187075614929, 'covertype_val_f1-score': 0.7000402808189392, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7187187075614929}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1005 samples (50.25%) + Class 2: 810 samples (40.50%) + Class 3: 13 samples (0.65%) + Class 4: 144 samples (7.20%) + Class 5: 28 samples (1.40%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7129999995231628 │ +│ covertype_test_f1-score │ 0.6977789402008057 │ +│ covertype_test_loss │ 0.6561082005500793 │ +│ covertype_test_precision │ 0.7064338326454163 │ +│ covertype_test_recall │ 0.7129999995231628 │ +│ covertype_test_score │ 0.7129999995231628 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 207.27it/s +Test metrics: [{'covertype_test_loss': 0.6561082005500793, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7129999995231628, 'covertype_test_precision': 0.7064338326454163, 'covertype_test_recall': 0.7129999995231628, 'covertype_test_f1-score': 0.6977789402008057, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7129999995231628}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 1: 997 samples (52.47%) + Class 2: 806 samples (42.42%) + Class 3: 13 samples (0.68%) + Class 4: 75 samples (3.95%) + Class 5: 9 samples (0.47%) +============================================================ +covertype_test_accuracy 5% removed: 0.7221 +covertype_test_precision 5% removed: 0.7175 +covertype_test_recall 5% removed: 0.7221 +covertype_test_f1-score 5% removed: 0.7087 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 1: 953 samples (52.94%) + Class 2: 793 samples (44.06%) + Class 3: 12 samples (0.67%) + Class 4: 42 samples (2.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.7311 +covertype_test_precision 10% removed: 0.7258 +covertype_test_recall 10% removed: 0.7311 +covertype_test_f1-score 10% removed: 0.7203 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 1: 818 samples (51.12%) + Class 2: 748 samples (46.75%) + Class 3: 11 samples (0.69%) + Class 4: 23 samples (1.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.7387 +covertype_test_precision 20% removed: 0.7423 +covertype_test_recall 20% removed: 0.7387 +covertype_test_f1-score 20% removed: 0.7325 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 1: 507 samples (50.70%) + Class 2: 491 samples (49.10%) + Class 4: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7460 +covertype_test_precision 50% removed: 0.7393 +covertype_test_recall 50% removed: 0.7460 +covertype_test_f1-score 50% removed: 0.7417 +Wrote results for mlp on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/mlp_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.6797±0.0446 5%: 0.6869±0.0440 10%: 0.6967±0.0402 20%: 0.7060±0.0373 50%: 0.7074±0.0449 +covertype_test_precision 0%: 0.6899±0.0360 5%: 0.7013±0.0281 10%: 0.7145±0.0219 20%: 0.7320±0.0246 50%: 0.7398±0.0177 +covertype_test_recall 0%: 0.6797±0.0446 5%: 0.6869±0.0440 10%: 0.6967±0.0402 20%: 0.7060±0.0373 50%: 0.7074±0.0449 +covertype_test_f1-score 0%: 0.6589±0.0609 5%: 0.6696±0.0585 10%: 0.6816±0.0561 20%: 0.6929±0.0577 50%: 0.6931±0.0676 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'dcnv2'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_rcz5p2e/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp_rcz5p2e/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_rcz5p2e/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_rcz5p2e/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 147.03it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7677677869796753 │ +│ covertype_val_f1-score │ 0.7582781910896301 │ +│ covertype_val_loss │ 0.550362765789032 │ +│ covertype_val_precision │ 0.7577949166297913 │ +│ covertype_val_recall │ 0.7677677869796753 │ +│ covertype_val_score │ 0.7677677869796753 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 274.33it/s +Validation metrics: [{'covertype_val_loss': 0.550362765789032, 'lr': 0.0, 'covertype_val_accuracy': 0.7677677869796753, 'covertype_val_precision': 0.7577949166297913, 'covertype_val_recall': 0.7677677869796753, 'covertype_val_f1-score': 0.7582781910896301, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7677677869796753}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 10 samples (0.50%) + Class 1: 1006 samples (50.30%) + Class 2: 736 samples (36.80%) + Class 3: 62 samples (3.10%) + Class 4: 154 samples (7.70%) + Class 5: 29 samples (1.45%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7699999809265137 │ +│ covertype_test_f1-score │ 0.7646961212158203 │ +│ covertype_test_loss │ 0.5692434906959534 │ +│ covertype_test_precision │ 0.7706103324890137 │ +│ covertype_test_recall │ 0.7699999809265137 │ +│ covertype_test_score │ 0.7699999809265137 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 136.39it/s +Test metrics: [{'covertype_test_loss': 0.5692434906959534, 'lr': 0.0, 'covertype_test_accuracy': 0.7699999809265137, 'covertype_test_precision': 0.7706103324890137, 'covertype_test_recall': 0.7699999809265137, 'covertype_test_f1-score': 0.7646961212158203, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7699999809265137}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 10 samples (0.53%) + Class 1: 998 samples (52.53%) + Class 2: 734 samples (38.63%) + Class 3: 60 samples (3.16%) + Class 4: 83 samples (4.37%) + Class 5: 15 samples (0.79%) +============================================================ +covertype_test_accuracy 5% removed: 0.7805 +covertype_test_precision 5% removed: 0.7809 +covertype_test_recall 5% removed: 0.7805 +covertype_test_f1-score 5% removed: 0.7770 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 9 samples (0.50%) + Class 1: 958 samples (53.22%) + Class 2: 730 samples (40.56%) + Class 3: 50 samples (2.78%) + Class 4: 48 samples (2.67%) + Class 5: 5 samples (0.28%) +============================================================ +covertype_test_accuracy 10% removed: 0.7850 +covertype_test_precision 10% removed: 0.7846 +covertype_test_recall 10% removed: 0.7850 +covertype_test_f1-score 10% removed: 0.7826 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 5 samples (0.31%) + Class 1: 836 samples (52.25%) + Class 2: 695 samples (43.44%) + Class 3: 39 samples (2.44%) + Class 4: 25 samples (1.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7937 +covertype_test_precision 20% removed: 0.7942 +covertype_test_recall 20% removed: 0.7937 +covertype_test_f1-score 20% removed: 0.7924 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 1 samples (0.10%) + Class 1: 512 samples (51.20%) + Class 2: 480 samples (48.00%) + Class 3: 7 samples (0.70%) +============================================================ +covertype_test_accuracy 50% removed: 0.7980 +covertype_test_precision 50% removed: 0.8008 +covertype_test_recall 50% removed: 0.7980 +covertype_test_f1-score 50% removed: 0.7975 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_rcz5p2e/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp_rcz5p2e/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_rcz5p2e/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_rcz5p2e/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 47.98it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.770770788192749 │ +│ covertype_val_f1-score │ 0.7645440101623535 │ +│ covertype_val_loss │ 0.5526973605155945 │ +│ covertype_val_precision │ 0.7645893692970276 │ +│ covertype_val_recall │ 0.770770788192749 │ +│ covertype_val_score │ 0.770770788192749 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 80.34it/s +Validation metrics: [{'covertype_val_loss': 0.5526973605155945, 'lr': 0.0, 'covertype_val_accuracy': 0.770770788192749, 'covertype_val_precision': 0.7645893692970276, 'covertype_val_recall': 0.770770788192749, 'covertype_val_f1-score': 0.7645440101623535, 'covertype_val_support': 999.0, 'covertype_val_score': 0.770770788192749}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 1016 samples (50.80%) + Class 2: 731 samples (36.55%) + Class 3: 54 samples (2.70%) + Class 4: 133 samples (6.65%) + Class 5: 47 samples (2.35%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7720000147819519 │ +│ covertype_test_f1-score │ 0.7692530751228333 │ +│ covertype_test_loss │ 0.5500460863113403 │ +│ covertype_test_precision │ 0.7705385088920593 │ +│ covertype_test_recall │ 0.7720000147819519 │ +│ covertype_test_score │ 0.7720000147819519 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 70.78it/s +Test metrics: [{'covertype_test_loss': 0.5500460863113403, 'lr': 0.0, 'covertype_test_accuracy': 0.7720000147819519, 'covertype_test_precision': 0.7705385088920593, 'covertype_test_recall': 0.7720000147819519, 'covertype_test_f1-score': 0.7692530751228333, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7720000147819519}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 16 samples (0.84%) + Class 1: 1009 samples (53.11%) + Class 2: 729 samples (38.37%) + Class 3: 52 samples (2.74%) + Class 4: 66 samples (3.47%) + Class 5: 28 samples (1.47%) +============================================================ +covertype_test_accuracy 5% removed: 0.7826 +covertype_test_precision 5% removed: 0.7806 +covertype_test_recall 5% removed: 0.7826 +covertype_test_f1-score 5% removed: 0.7806 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 968 samples (53.78%) + Class 2: 725 samples (40.28%) + Class 3: 42 samples (2.33%) + Class 4: 39 samples (2.17%) + Class 5: 11 samples (0.61%) +============================================================ +covertype_test_accuracy 10% removed: 0.7867 +covertype_test_precision 10% removed: 0.7856 +covertype_test_recall 10% removed: 0.7867 +covertype_test_f1-score 10% removed: 0.7855 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 10 samples (0.62%) + Class 1: 845 samples (52.81%) + Class 2: 689 samples (43.06%) + Class 3: 32 samples (2.00%) + Class 4: 20 samples (1.25%) + Class 5: 4 samples (0.25%) +============================================================ +covertype_test_accuracy 20% removed: 0.7944 +covertype_test_precision 20% removed: 0.7956 +covertype_test_recall 20% removed: 0.7944 +covertype_test_f1-score 20% removed: 0.7940 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 1 samples (0.10%) + Class 1: 526 samples (52.60%) + Class 2: 466 samples (46.60%) + Class 3: 7 samples (0.70%) +============================================================ +covertype_test_accuracy 50% removed: 0.7980 +covertype_test_precision 50% removed: 0.7996 +covertype_test_recall 50% removed: 0.7980 +covertype_test_f1-score 50% removed: 0.7974 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_rcz5p2e/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp_rcz5p2e/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_rcz5p2e/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_rcz5p2e/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 87.90it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7687687873840332 │ +│ covertype_val_f1-score │ 0.7645565867424011 │ +│ covertype_val_loss │ 0.546960175037384 │ +│ covertype_val_precision │ 0.7677750587463379 │ +│ covertype_val_recall │ 0.7687687873840332 │ +│ covertype_val_score │ 0.7687687873840332 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 45.92it/s +Validation metrics: [{'covertype_val_loss': 0.546960175037384, 'lr': 0.0, 'covertype_val_accuracy': 0.7687687873840332, 'covertype_val_precision': 0.7677750587463379, 'covertype_val_recall': 0.7687687873840332, 'covertype_val_f1-score': 0.7645565867424011, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7687687873840332}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 999 samples (49.95%) + Class 2: 736 samples (36.80%) + Class 3: 61 samples (3.05%) + Class 4: 130 samples (6.50%) + Class 5: 55 samples (2.75%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7774999737739563 │ +│ covertype_test_f1-score │ 0.7757645845413208 │ +│ covertype_test_loss │ 0.5524904131889343 │ +│ covertype_test_precision │ 0.7778117060661316 │ +│ covertype_test_recall │ 0.7774999737739563 │ +│ covertype_test_score │ 0.7774999737739563 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 82.08it/s +Test metrics: [{'covertype_test_loss': 0.5524904131889343, 'lr': 0.0, 'covertype_test_accuracy': 0.7774999737739563, 'covertype_test_precision': 0.7778117060661316, 'covertype_test_recall': 0.7774999737739563, 'covertype_test_f1-score': 0.7757645845413208, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7774999737739563}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 14 samples (0.74%) + Class 1: 994 samples (52.32%) + Class 2: 734 samples (38.63%) + Class 3: 59 samples (3.11%) + Class 4: 75 samples (3.95%) + Class 5: 24 samples (1.26%) +============================================================ +covertype_test_accuracy 5% removed: 0.7889 +covertype_test_precision 5% removed: 0.7883 +covertype_test_recall 5% removed: 0.7889 +covertype_test_f1-score 5% removed: 0.7869 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 12 samples (0.67%) + Class 1: 957 samples (53.17%) + Class 2: 730 samples (40.56%) + Class 3: 49 samples (2.72%) + Class 4: 43 samples (2.39%) + Class 5: 9 samples (0.50%) +============================================================ +covertype_test_accuracy 10% removed: 0.7939 +covertype_test_precision 10% removed: 0.7941 +covertype_test_recall 10% removed: 0.7939 +covertype_test_f1-score 10% removed: 0.7928 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 8 samples (0.50%) + Class 1: 836 samples (52.25%) + Class 2: 693 samples (43.31%) + Class 3: 38 samples (2.38%) + Class 4: 22 samples (1.38%) + Class 5: 3 samples (0.19%) +============================================================ +covertype_test_accuracy 20% removed: 0.8019 +covertype_test_precision 20% removed: 0.8037 +covertype_test_recall 20% removed: 0.8019 +covertype_test_f1-score 20% removed: 0.8018 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 1 samples (0.10%) + Class 1: 518 samples (51.80%) + Class 2: 474 samples (47.40%) + Class 3: 7 samples (0.70%) +============================================================ +covertype_test_accuracy 50% removed: 0.8060 +covertype_test_precision 50% removed: 0.8082 +covertype_test_recall 50% removed: 0.8060 +covertype_test_f1-score 50% removed: 0.8054 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_rcz5p2e/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp_rcz5p2e/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_rcz5p2e/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_rcz5p2e/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 45.43it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7697697877883911 │ +│ covertype_val_f1-score │ 0.7574036121368408 │ +│ covertype_val_loss │ 0.5509337186813354 │ +│ covertype_val_precision │ 0.761908769607544 │ +│ covertype_val_recall │ 0.7697697877883911 │ +│ covertype_val_score │ 0.7697697877883911 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 55.26it/s +Validation metrics: [{'covertype_val_loss': 0.5509337186813354, 'lr': 0.0, 'covertype_val_accuracy': 0.7697697877883911, 'covertype_val_precision': 0.761908769607544, 'covertype_val_recall': 0.7697697877883911, 'covertype_val_f1-score': 0.7574036121368408, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7697697877883911}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 10 samples (0.50%) + Class 1: 1002 samples (50.10%) + Class 2: 738 samples (36.90%) + Class 3: 65 samples (3.25%) + Class 4: 161 samples (8.05%) + Class 5: 19 samples (0.95%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7680000066757202 │ +│ covertype_test_f1-score │ 0.7613455653190613 │ +│ covertype_test_loss │ 0.5477402210235596 │ +│ covertype_test_precision │ 0.768922746181488 │ +│ covertype_test_recall │ 0.7680000066757202 │ +│ covertype_test_score │ 0.7680000066757202 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 114.58it/s +Test metrics: [{'covertype_test_loss': 0.5477402210235596, 'lr': 0.0, 'covertype_test_accuracy': 0.7680000066757202, 'covertype_test_precision': 0.768922746181488, 'covertype_test_recall': 0.7680000066757202, 'covertype_test_f1-score': 0.7613455653190613, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7680000066757202}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 10 samples (0.53%) + Class 1: 996 samples (52.42%) + Class 2: 736 samples (38.74%) + Class 3: 63 samples (3.32%) + Class 4: 84 samples (4.42%) + Class 5: 11 samples (0.58%) +============================================================ +covertype_test_accuracy 5% removed: 0.7789 +covertype_test_precision 5% removed: 0.7794 +covertype_test_recall 5% removed: 0.7789 +covertype_test_f1-score 5% removed: 0.7748 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 9 samples (0.50%) + Class 1: 956 samples (53.11%) + Class 2: 733 samples (40.72%) + Class 3: 52 samples (2.89%) + Class 4: 48 samples (2.67%) + Class 5: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7844 +covertype_test_precision 10% removed: 0.7850 +covertype_test_recall 10% removed: 0.7844 +covertype_test_f1-score 10% removed: 0.7817 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 4 samples (0.25%) + Class 1: 834 samples (52.12%) + Class 2: 694 samples (43.38%) + Class 3: 41 samples (2.56%) + Class 4: 27 samples (1.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.7887 +covertype_test_precision 20% removed: 0.7890 +covertype_test_recall 20% removed: 0.7887 +covertype_test_f1-score 20% removed: 0.7872 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 1: 518 samples (51.80%) + Class 2: 474 samples (47.40%) + Class 3: 7 samples (0.70%) + Class 4: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7960 +covertype_test_precision 50% removed: 0.7952 +covertype_test_recall 50% removed: 0.7960 +covertype_test_f1-score 50% removed: 0.7948 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp_rcz5p2e/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp_rcz5p2e/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp_rcz5p2e/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp_rcz5p2e/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 66.38it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7667667865753174 │ +│ covertype_val_f1-score │ 0.7525497078895569 │ +│ covertype_val_loss │ 0.5587471127510071 │ +│ covertype_val_precision │ 0.7646804451942444 │ +│ covertype_val_recall │ 0.7667667865753174 │ +│ covertype_val_score │ 0.7667667865753174 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 125.91it/s +Validation metrics: [{'covertype_val_loss': 0.5587471127510071, 'lr': 0.0, 'covertype_val_accuracy': 0.7667667865753174, 'covertype_val_precision': 0.7646804451942444, 'covertype_val_recall': 0.7667667865753174, 'covertype_val_f1-score': 0.7525497078895569, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7667667865753174}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 12 samples (0.60%) + Class 1: 1029 samples (51.45%) + Class 2: 713 samples (35.65%) + Class 3: 59 samples (2.95%) + Class 4: 173 samples (8.65%) + Class 5: 11 samples (0.55%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7820000052452087 │ +│ covertype_test_f1-score │ 0.7739083766937256 │ +│ covertype_test_loss │ 0.5501092076301575 │ +│ covertype_test_precision │ 0.7875226736068726 │ +│ covertype_test_recall │ 0.7820000052452087 │ +│ covertype_test_score │ 0.7820000052452087 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 265.72it/s +Test metrics: [{'covertype_test_loss': 0.5501092076301575, 'lr': 0.0, 'covertype_test_accuracy': 0.7820000052452087, 'covertype_test_precision': 0.7875226736068726, 'covertype_test_recall': 0.7820000052452087, 'covertype_test_f1-score': 0.7739083766937256, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7820000052452087}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 12 samples (0.63%) + Class 1: 1021 samples (53.74%) + Class 2: 711 samples (37.42%) + Class 3: 57 samples (3.00%) + Class 4: 92 samples (4.84%) + Class 5: 7 samples (0.37%) +============================================================ +covertype_test_accuracy 5% removed: 0.7937 +covertype_test_precision 5% removed: 0.7955 +covertype_test_recall 5% removed: 0.7937 +covertype_test_f1-score 5% removed: 0.7891 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 10 samples (0.56%) + Class 1: 981 samples (54.50%) + Class 2: 707 samples (39.28%) + Class 3: 47 samples (2.61%) + Class 4: 51 samples (2.83%) + Class 5: 4 samples (0.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.8011 +covertype_test_precision 10% removed: 0.8005 +covertype_test_recall 10% removed: 0.8011 +covertype_test_f1-score 10% removed: 0.7985 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 5 samples (0.31%) + Class 1: 862 samples (53.87%) + Class 2: 670 samples (41.88%) + Class 3: 36 samples (2.25%) + Class 4: 27 samples (1.69%) +============================================================ +covertype_test_accuracy 20% removed: 0.8081 +covertype_test_precision 20% removed: 0.8077 +covertype_test_recall 20% removed: 0.8081 +covertype_test_f1-score 20% removed: 0.8064 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 1 samples (0.10%) + Class 1: 539 samples (53.90%) + Class 2: 453 samples (45.30%) + Class 3: 7 samples (0.70%) +============================================================ +covertype_test_accuracy 50% removed: 0.8110 +covertype_test_precision 50% removed: 0.8118 +covertype_test_recall 50% removed: 0.8110 +covertype_test_f1-score 50% removed: 0.8101 +Wrote results for dcnv2 on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/dcnv2_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7739±0.0071 5%: 0.7849±0.0077 10%: 0.7902±0.0089 20%: 0.7974±0.0095 50%: 0.8018±0.0080 +covertype_test_precision 0%: 0.7751±0.0096 5%: 0.7849±0.0085 10%: 0.7900±0.0088 20%: 0.7980±0.0093 50%: 0.8031±0.0083 +covertype_test_recall 0%: 0.7739±0.0071 5%: 0.7849±0.0077 10%: 0.7902±0.0089 20%: 0.7974±0.0095 50%: 0.8018±0.0080 +covertype_test_f1-score 0%: 0.7690±0.0075 5%: 0.7817±0.0077 10%: 0.7882±0.0090 20%: 0.7964±0.0095 50%: 0.8010±0.0080 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'resnet'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpnc3x35ed/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpnc3x35ed/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpnc3x35ed/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpnc3x35ed/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 36/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 70.40it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.782782793045044 │ +│ covertype_val_f1-score │ 0.7758421897888184 │ +│ covertype_val_loss │ 0.5599992275238037 │ +│ covertype_val_precision │ 0.7753750681877136 │ +│ covertype_val_recall │ 0.782782793045044 │ +│ covertype_val_score │ 0.782782793045044 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0005000000237487257 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 171.15it/s +Validation metrics: [{'covertype_val_loss': 0.5599992275238037, 'lr': 0.0005000000237487257, 'covertype_val_accuracy': 0.782782793045044, 'covertype_val_precision': 0.7753750681877136, 'covertype_val_recall': 0.782782793045044, 'covertype_val_f1-score': 0.7758421897888184, 'covertype_val_support': 999.0, 'covertype_val_score': 0.782782793045044}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 1071 samples (53.55%) + Class 2: 662 samples (33.10%) + Class 3: 63 samples (3.15%) + Class 4: 146 samples (7.30%) + Class 5: 39 samples (1.95%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7850000262260437 │ +│ covertype_test_f1-score │ 0.7809123992919922 │ +│ covertype_test_loss │ 0.5484500527381897 │ +│ covertype_test_precision │ 0.7835479378700256 │ +│ covertype_test_recall │ 0.7850000262260437 │ +│ covertype_test_score │ 0.7850000262260437 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0005000000819563866 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 269.11it/s +Test metrics: [{'covertype_test_loss': 0.5484500527381897, 'lr': 0.0005000000819563866, 'covertype_test_accuracy': 0.7850000262260437, 'covertype_test_precision': 0.7835479378700256, 'covertype_test_recall': 0.7850000262260437, 'covertype_test_f1-score': 0.7809123992919922, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7850000262260437}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 1065 samples (56.05%) + Class 2: 660 samples (34.74%) + Class 3: 61 samples (3.21%) + Class 4: 78 samples (4.11%) + Class 5: 21 samples (1.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7926 +covertype_test_precision 5% removed: 0.7897 +covertype_test_recall 5% removed: 0.7926 +covertype_test_f1-score 5% removed: 0.7891 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 15 samples (0.83%) + Class 1: 1028 samples (57.11%) + Class 2: 657 samples (36.50%) + Class 3: 49 samples (2.72%) + Class 4: 41 samples (2.28%) + Class 5: 10 samples (0.56%) +============================================================ +covertype_test_accuracy 10% removed: 0.8006 +covertype_test_precision 10% removed: 0.7986 +covertype_test_recall 10% removed: 0.8006 +covertype_test_f1-score 10% removed: 0.7985 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 909 samples (56.81%) + Class 2: 618 samples (38.62%) + Class 3: 38 samples (2.38%) + Class 4: 21 samples (1.31%) + Class 5: 2 samples (0.12%) +============================================================ +covertype_test_accuracy 20% removed: 0.8100 +covertype_test_precision 20% removed: 0.8093 +covertype_test_recall 20% removed: 0.8100 +covertype_test_f1-score 20% removed: 0.8090 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 3 samples (0.30%) + Class 1: 572 samples (57.20%) + Class 2: 417 samples (41.70%) + Class 3: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.8120 +covertype_test_precision 50% removed: 0.8115 +covertype_test_recall 50% removed: 0.8120 +covertype_test_f1-score 50% removed: 0.8106 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpnc3x35ed/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpnc3x35ed/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpnc3x35ed/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpnc3x35ed/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 80.07it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7337337136268616 │ +│ covertype_val_f1-score │ 0.7247955203056335 │ +│ covertype_val_loss │ 0.6566070914268494 │ +│ covertype_val_precision │ 0.7233425974845886 │ +│ covertype_val_recall │ 0.7337337136268616 │ +│ covertype_val_score │ 0.7337337136268616 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 163.37it/s +Validation metrics: [{'covertype_val_loss': 0.6566070914268494, 'lr': 0.0, 'covertype_val_accuracy': 0.7337337136268616, 'covertype_val_precision': 0.7233425974845886, 'covertype_val_recall': 0.7337337136268616, 'covertype_val_f1-score': 0.7247955203056335, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7337337136268616}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 1070 samples (53.50%) + Class 2: 699 samples (34.95%) + Class 3: 44 samples (2.20%) + Class 4: 120 samples (6.00%) + Class 5: 46 samples (2.30%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7540000081062317 │ +│ covertype_test_f1-score │ 0.7504158020019531 │ +│ covertype_test_loss │ 0.6195783019065857 │ +│ covertype_test_precision │ 0.7516863942146301 │ +│ covertype_test_recall │ 0.7540000081062317 │ +│ covertype_test_score │ 0.7540000081062317 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 100.83it/s +Test metrics: [{'covertype_test_loss': 0.6195783019065857, 'lr': 0.0, 'covertype_test_accuracy': 0.7540000081062317, 'covertype_test_precision': 0.7516863942146301, 'covertype_test_recall': 0.7540000081062317, 'covertype_test_f1-score': 0.7504158020019531, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7540000081062317}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 1059 samples (55.74%) + Class 2: 697 samples (36.68%) + Class 3: 42 samples (2.21%) + Class 4: 64 samples (3.37%) + Class 5: 20 samples (1.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7637 +covertype_test_precision 5% removed: 0.7615 +covertype_test_recall 5% removed: 0.7637 +covertype_test_f1-score 5% removed: 0.7606 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 1016 samples (56.44%) + Class 2: 693 samples (38.50%) + Class 3: 32 samples (1.78%) + Class 4: 36 samples (2.00%) + Class 5: 6 samples (0.33%) +============================================================ +covertype_test_accuracy 10% removed: 0.7661 +covertype_test_precision 10% removed: 0.7645 +covertype_test_recall 10% removed: 0.7661 +covertype_test_f1-score 10% removed: 0.7635 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 899 samples (56.19%) + Class 2: 647 samples (40.44%) + Class 3: 24 samples (1.50%) + Class 4: 17 samples (1.06%) + Class 5: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7719 +covertype_test_precision 20% removed: 0.7721 +covertype_test_recall 20% removed: 0.7719 +covertype_test_f1-score 20% removed: 0.7700 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 3 samples (0.30%) + Class 1: 570 samples (57.00%) + Class 2: 423 samples (42.30%) + Class 3: 4 samples (0.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.7750 +covertype_test_precision 50% removed: 0.7759 +covertype_test_recall 50% removed: 0.7750 +covertype_test_f1-score 50% removed: 0.7731 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpnc3x35ed/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpnc3x35ed/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpnc3x35ed/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpnc3x35ed/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 45/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 119.87it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7557557821273804 │ +│ covertype_val_f1-score │ 0.7534528970718384 │ +│ covertype_val_loss │ 0.6066661477088928 │ +│ covertype_val_precision │ 0.7537184953689575 │ +│ covertype_val_recall │ 0.7557557821273804 │ +│ covertype_val_score │ 0.7557557821273804 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 166.16it/s +Validation metrics: [{'covertype_val_loss': 0.6066661477088928, 'lr': 0.0, 'covertype_val_accuracy': 0.7557557821273804, 'covertype_val_precision': 0.7537184953689575, 'covertype_val_recall': 0.7557557821273804, 'covertype_val_f1-score': 0.7534528970718384, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7557557821273804}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 971 samples (48.55%) + Class 2: 779 samples (38.95%) + Class 3: 49 samples (2.45%) + Class 4: 121 samples (6.05%) + Class 5: 59 samples (2.95%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7645000219345093 │ +│ covertype_test_f1-score │ 0.7633199691772461 │ +│ covertype_test_loss │ 0.5863391757011414 │ +│ covertype_test_precision │ 0.7668017148971558 │ +│ covertype_test_recall │ 0.7645000219345093 │ +│ covertype_test_score │ 0.7645000219345093 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 215.91it/s +Test metrics: [{'covertype_test_loss': 0.5863391757011414, 'lr': 0.0, 'covertype_test_accuracy': 0.7645000219345093, 'covertype_test_precision': 0.7668017148971558, 'covertype_test_recall': 0.7645000219345093, 'covertype_test_f1-score': 0.7633199691772461, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7645000219345093}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 962 samples (50.63%) + Class 2: 777 samples (40.89%) + Class 3: 47 samples (2.47%) + Class 4: 73 samples (3.84%) + Class 5: 23 samples (1.21%) +============================================================ +covertype_test_accuracy 5% removed: 0.7721 +covertype_test_precision 5% removed: 0.7741 +covertype_test_recall 5% removed: 0.7721 +covertype_test_f1-score 5% removed: 0.7709 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 921 samples (51.17%) + Class 2: 770 samples (42.78%) + Class 3: 38 samples (2.11%) + Class 4: 45 samples (2.50%) + Class 5: 9 samples (0.50%) +============================================================ +covertype_test_accuracy 10% removed: 0.7744 +covertype_test_precision 10% removed: 0.7773 +covertype_test_recall 10% removed: 0.7744 +covertype_test_f1-score 10% removed: 0.7740 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 814 samples (50.88%) + Class 2: 716 samples (44.75%) + Class 3: 32 samples (2.00%) + Class 4: 25 samples (1.56%) + Class 5: 2 samples (0.12%) +============================================================ +covertype_test_accuracy 20% removed: 0.7800 +covertype_test_precision 20% removed: 0.7841 +covertype_test_recall 20% removed: 0.7800 +covertype_test_f1-score 20% removed: 0.7801 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 3 samples (0.30%) + Class 1: 506 samples (50.60%) + Class 2: 483 samples (48.30%) + Class 3: 7 samples (0.70%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7850 +covertype_test_precision 50% removed: 0.7883 +covertype_test_recall 50% removed: 0.7850 +covertype_test_f1-score 50% removed: 0.7854 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpnc3x35ed/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpnc3x35ed/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpnc3x35ed/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpnc3x35ed/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 74.70it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7387387156486511 │ +│ covertype_val_f1-score │ 0.7369820475578308 │ +│ covertype_val_loss │ 0.6704974174499512 │ +│ covertype_val_precision │ 0.7438618540763855 │ +│ covertype_val_recall │ 0.7387387156486511 │ +│ covertype_val_score │ 0.7387387156486511 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 154.70it/s +Validation metrics: [{'covertype_val_loss': 0.6704974174499512, 'lr': 0.0, 'covertype_val_accuracy': 0.7387387156486511, 'covertype_val_precision': 0.7438618540763855, 'covertype_val_recall': 0.7387387156486511, 'covertype_val_f1-score': 0.7369820475578308, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7387387156486511}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 29 samples (1.45%) + Class 1: 917 samples (45.85%) + Class 2: 811 samples (40.55%) + Class 3: 65 samples (3.25%) + Class 4: 113 samples (5.65%) + Class 5: 60 samples (3.00%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7459999918937683 │ +│ covertype_test_f1-score │ 0.746316134929657 │ +│ covertype_test_loss │ 0.6491712927818298 │ +│ covertype_test_precision │ 0.7515453696250916 │ +│ covertype_test_recall │ 0.7459999918937683 │ +│ covertype_test_score │ 0.7459999918937683 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 100.11it/s +Test metrics: [{'covertype_test_loss': 0.6491712927818298, 'lr': 0.0, 'covertype_test_accuracy': 0.7459999918937683, 'covertype_test_precision': 0.7515453696250916, 'covertype_test_recall': 0.7459999918937683, 'covertype_test_f1-score': 0.746316134929657, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7459999918937683}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 29 samples (1.53%) + Class 1: 911 samples (47.95%) + Class 2: 809 samples (42.58%) + Class 3: 63 samples (3.32%) + Class 4: 59 samples (3.11%) + Class 5: 29 samples (1.53%) +============================================================ +covertype_test_accuracy 5% removed: 0.7521 +covertype_test_precision 5% removed: 0.7576 +covertype_test_recall 5% removed: 0.7521 +covertype_test_f1-score 5% removed: 0.7525 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 876 samples (48.67%) + Class 2: 805 samples (44.72%) + Class 3: 51 samples (2.83%) + Class 4: 34 samples (1.89%) + Class 5: 9 samples (0.50%) +============================================================ +covertype_test_accuracy 10% removed: 0.7567 +covertype_test_precision 10% removed: 0.7634 +covertype_test_recall 10% removed: 0.7567 +covertype_test_f1-score 10% removed: 0.7574 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 17 samples (1.06%) + Class 1: 767 samples (47.94%) + Class 2: 760 samples (47.50%) + Class 3: 39 samples (2.44%) + Class 4: 17 samples (1.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7606 +covertype_test_precision 20% removed: 0.7688 +covertype_test_recall 20% removed: 0.7606 +covertype_test_f1-score 20% removed: 0.7612 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 3 samples (0.30%) + Class 1: 468 samples (46.80%) + Class 2: 519 samples (51.90%) + Class 3: 10 samples (1.00%) +============================================================ +covertype_test_accuracy 50% removed: 0.7590 +covertype_test_precision 50% removed: 0.7664 +covertype_test_recall 50% removed: 0.7590 +covertype_test_f1-score 50% removed: 0.7590 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpnc3x35ed/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpnc3x35ed/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpnc3x35ed/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpnc3x35ed/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 87.80it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7387387156486511 │ +│ covertype_val_f1-score │ 0.7396791577339172 │ +│ covertype_val_loss │ 0.629175066947937 │ +│ covertype_val_precision │ 0.7457678318023682 │ +│ covertype_val_recall │ 0.7387387156486511 │ +│ covertype_val_score │ 0.7387387156486511 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 151.40it/s +Validation metrics: [{'covertype_val_loss': 0.629175066947937, 'lr': 0.0, 'covertype_val_accuracy': 0.7387387156486511, 'covertype_val_precision': 0.7457678318023682, 'covertype_val_recall': 0.7387387156486511, 'covertype_val_f1-score': 0.7396791577339172, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7387387156486511}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 37 samples (1.85%) + Class 1: 945 samples (47.25%) + Class 2: 766 samples (38.30%) + Class 3: 69 samples (3.45%) + Class 4: 111 samples (5.55%) + Class 5: 67 samples (3.35%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7599999904632568 │ +│ covertype_test_f1-score │ 0.7611145973205566 │ +│ covertype_test_loss │ 0.6034064888954163 │ +│ covertype_test_precision │ 0.7646081447601318 │ +│ covertype_test_recall │ 0.7599999904632568 │ +│ covertype_test_score │ 0.7599999904632568 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 132.02it/s +Test metrics: [{'covertype_test_loss': 0.6034064888954163, 'lr': 0.0, 'covertype_test_accuracy': 0.7599999904632568, 'covertype_test_precision': 0.7646081447601318, 'covertype_test_recall': 0.7599999904632568, 'covertype_test_f1-score': 0.7611145973205566, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7599999904632568}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 37 samples (1.95%) + Class 1: 938 samples (49.37%) + Class 2: 764 samples (40.21%) + Class 3: 67 samples (3.53%) + Class 4: 66 samples (3.47%) + Class 5: 27 samples (1.42%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7668 +covertype_test_precision 5% removed: 0.7707 +covertype_test_recall 5% removed: 0.7668 +covertype_test_f1-score 5% removed: 0.7677 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 29 samples (1.61%) + Class 1: 907 samples (50.39%) + Class 2: 758 samples (42.11%) + Class 3: 56 samples (3.11%) + Class 4: 41 samples (2.28%) + Class 5: 9 samples (0.50%) +============================================================ +covertype_test_accuracy 10% removed: 0.7717 +covertype_test_precision 10% removed: 0.7754 +covertype_test_recall 10% removed: 0.7717 +covertype_test_f1-score 10% removed: 0.7724 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 22 samples (1.38%) + Class 1: 798 samples (49.88%) + Class 2: 711 samples (44.44%) + Class 3: 45 samples (2.81%) + Class 4: 23 samples (1.44%) + Class 5: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7744 +covertype_test_precision 20% removed: 0.7812 +covertype_test_recall 20% removed: 0.7744 +covertype_test_f1-score 20% removed: 0.7762 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 514 samples (51.40%) + Class 2: 469 samples (46.90%) + Class 3: 10 samples (1.00%) + Class 4: 1 samples (0.10%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7800 +covertype_test_precision 50% removed: 0.7832 +covertype_test_recall 50% removed: 0.7800 +covertype_test_f1-score 50% removed: 0.7812 +Wrote results for resnet on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/resnet_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7619±0.0182 5%: 0.7695±0.0185 10%: 0.7739±0.0203 20%: 0.7794±0.0230 50%: 0.7822±0.0240 +covertype_test_precision 0%: 0.7636±0.0164 5%: 0.7707±0.0156 10%: 0.7758±0.0176 20%: 0.7831±0.0198 50%: 0.7851±0.0210 +covertype_test_recall 0%: 0.7619±0.0182 5%: 0.7695±0.0185 10%: 0.7739±0.0203 20%: 0.7794±0.0230 50%: 0.7822±0.0240 +covertype_test_f1-score 0%: 0.7604±0.0167 5%: 0.7681±0.0170 10%: 0.7731±0.0195 20%: 0.7793±0.0224 50%: 0.7819±0.0236 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'autoint'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmplgoev_ff/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmplgoev_ff/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmplgoev_ff/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmplgoev_ff/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 68.93it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7537537813186646 │ +│ covertype_val_f1-score │ 0.7483572959899902 │ +│ covertype_val_loss │ 0.6005834937095642 │ +│ covertype_val_precision │ 0.7487747669219971 │ +│ covertype_val_recall │ 0.7537537813186646 │ +│ covertype_val_score │ 0.7537537813186646 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 200.13it/s +Validation metrics: [{'covertype_val_loss': 0.6005834937095642, 'lr': 0.0, 'covertype_val_accuracy': 0.7537537813186646, 'covertype_val_precision': 0.7487747669219971, 'covertype_val_recall': 0.7537537813186646, 'covertype_val_f1-score': 0.7483572959899902, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7537537813186646}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 11 samples (0.55%) + Class 1: 996 samples (49.80%) + Class 2: 742 samples (37.10%) + Class 3: 58 samples (2.90%) + Class 4: 132 samples (6.60%) + Class 5: 56 samples (2.80%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.75 │ +│ covertype_test_f1-score │ 0.7472272515296936 │ +│ covertype_test_loss │ 0.5824733972549438 │ +│ covertype_test_precision │ 0.7479375600814819 │ +│ covertype_test_recall │ 0.75 │ +│ covertype_test_score │ 0.75 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 276.11it/s +Test metrics: [{'covertype_test_loss': 0.5824733972549438, 'lr': 0.0, 'covertype_test_accuracy': 0.75, 'covertype_test_precision': 0.7479375600814819, 'covertype_test_recall': 0.75, 'covertype_test_f1-score': 0.7472272515296936, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.75}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 11 samples (0.58%) + Class 1: 992 samples (52.21%) + Class 2: 740 samples (38.95%) + Class 3: 56 samples (2.95%) + Class 4: 74 samples (3.89%) + Class 5: 27 samples (1.42%) +============================================================ +covertype_test_accuracy 5% removed: 0.7568 +covertype_test_precision 5% removed: 0.7536 +covertype_test_recall 5% removed: 0.7568 +covertype_test_f1-score 5% removed: 0.7538 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 9 samples (0.50%) + Class 1: 954 samples (53.00%) + Class 2: 736 samples (40.89%) + Class 3: 46 samples (2.56%) + Class 4: 45 samples (2.50%) + Class 5: 10 samples (0.56%) +============================================================ +covertype_test_accuracy 10% removed: 0.7617 +covertype_test_precision 10% removed: 0.7593 +covertype_test_recall 10% removed: 0.7617 +covertype_test_f1-score 10% removed: 0.7594 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 832 samples (52.00%) + Class 2: 698 samples (43.62%) + Class 3: 35 samples (2.19%) + Class 4: 25 samples (1.56%) + Class 5: 3 samples (0.19%) +============================================================ +covertype_test_accuracy 20% removed: 0.7644 +covertype_test_precision 20% removed: 0.7654 +covertype_test_recall 20% removed: 0.7644 +covertype_test_f1-score 20% removed: 0.7637 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 1 samples (0.10%) + Class 1: 519 samples (51.90%) + Class 2: 471 samples (47.10%) + Class 3: 7 samples (0.70%) + Class 4: 1 samples (0.10%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7680 +covertype_test_precision 50% removed: 0.7688 +covertype_test_recall 50% removed: 0.7680 +covertype_test_f1-score 50% removed: 0.7677 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmplgoev_ff/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmplgoev_ff/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmplgoev_ff/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmplgoev_ff/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 64.67it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7477477192878723 │ +│ covertype_val_f1-score │ 0.7428719997406006 │ +│ covertype_val_loss │ 0.6191160082817078 │ +│ covertype_val_precision │ 0.7425774931907654 │ +│ covertype_val_recall │ 0.7477477192878723 │ +│ covertype_val_score │ 0.7477477192878723 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 320.32it/s +Validation metrics: [{'covertype_val_loss': 0.6191160082817078, 'lr': 0.0, 'covertype_val_accuracy': 0.7477477192878723, 'covertype_val_precision': 0.7425774931907654, 'covertype_val_recall': 0.7477477192878723, 'covertype_val_f1-score': 0.7428719997406006, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7477477192878723}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 12 samples (0.60%) + Class 1: 1018 samples (50.90%) + Class 2: 721 samples (36.05%) + Class 3: 55 samples (2.75%) + Class 4: 142 samples (7.10%) + Class 5: 47 samples (2.35%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7549999952316284 │ +│ covertype_test_f1-score │ 0.7521833181381226 │ +│ covertype_test_loss │ 0.6000282168388367 │ +│ covertype_test_precision │ 0.7549397945404053 │ +│ covertype_test_recall │ 0.7549999952316284 │ +│ covertype_test_score │ 0.7549999952316284 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 236.85it/s +Test metrics: [{'covertype_test_loss': 0.6000282168388367, 'lr': 0.0, 'covertype_test_accuracy': 0.7549999952316284, 'covertype_test_precision': 0.7549397945404053, 'covertype_test_recall': 0.7549999952316284, 'covertype_test_f1-score': 0.7521833181381226, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7549999952316284}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 12 samples (0.63%) + Class 1: 1013 samples (53.32%) + Class 2: 719 samples (37.84%) + Class 3: 53 samples (2.79%) + Class 4: 75 samples (3.95%) + Class 5: 28 samples (1.47%) +============================================================ +covertype_test_accuracy 5% removed: 0.7632 +covertype_test_precision 5% removed: 0.7626 +covertype_test_recall 5% removed: 0.7632 +covertype_test_f1-score 5% removed: 0.7609 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 11 samples (0.61%) + Class 1: 976 samples (54.22%) + Class 2: 714 samples (39.67%) + Class 3: 44 samples (2.44%) + Class 4: 45 samples (2.50%) + Class 5: 10 samples (0.56%) +============================================================ +covertype_test_accuracy 10% removed: 0.7700 +covertype_test_precision 10% removed: 0.7695 +covertype_test_recall 10% removed: 0.7700 +covertype_test_f1-score 10% removed: 0.7685 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 854 samples (53.37%) + Class 2: 679 samples (42.44%) + Class 3: 35 samples (2.19%) + Class 4: 22 samples (1.38%) + Class 5: 3 samples (0.19%) +============================================================ +covertype_test_accuracy 20% removed: 0.7769 +covertype_test_precision 20% removed: 0.7770 +covertype_test_recall 20% removed: 0.7769 +covertype_test_f1-score 20% removed: 0.7761 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 1 samples (0.10%) + Class 1: 540 samples (54.00%) + Class 2: 451 samples (45.10%) + Class 3: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7840 +covertype_test_precision 50% removed: 0.7845 +covertype_test_recall 50% removed: 0.7840 +covertype_test_f1-score 50% removed: 0.7832 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmplgoev_ff/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmplgoev_ff/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmplgoev_ff/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmplgoev_ff/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 110.56it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7557557821273804 │ +│ covertype_val_f1-score │ 0.7516698241233826 │ +│ covertype_val_loss │ 0.6015677452087402 │ +│ covertype_val_precision │ 0.7532816529273987 │ +│ covertype_val_recall │ 0.7557557821273804 │ +│ covertype_val_score │ 0.7557557821273804 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 345.47it/s +Validation metrics: [{'covertype_val_loss': 0.6015677452087402, 'lr': 0.0, 'covertype_val_accuracy': 0.7557557821273804, 'covertype_val_precision': 0.7532816529273987, 'covertype_val_recall': 0.7557557821273804, 'covertype_val_f1-score': 0.7516698241233826, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7557557821273804}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 976 samples (48.80%) + Class 2: 760 samples (38.00%) + Class 3: 57 samples (2.85%) + Class 4: 127 samples (6.35%) + Class 5: 60 samples (3.00%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7595000267028809 │ +│ covertype_test_f1-score │ 0.7586308717727661 │ +│ covertype_test_loss │ 0.5859744548797607 │ +│ covertype_test_precision │ 0.7617802619934082 │ +│ covertype_test_recall │ 0.7595000267028809 │ +│ covertype_test_score │ 0.7595000267028809 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 275.55it/s +Test metrics: [{'covertype_test_loss': 0.5859744548797607, 'lr': 0.0, 'covertype_test_accuracy': 0.7595000267028809, 'covertype_test_precision': 0.7617802619934082, 'covertype_test_recall': 0.7595000267028809, 'covertype_test_f1-score': 0.7586308717727661, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7595000267028809}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 972 samples (51.16%) + Class 2: 758 samples (39.89%) + Class 3: 55 samples (2.89%) + Class 4: 72 samples (3.79%) + Class 5: 28 samples (1.47%) +============================================================ +covertype_test_accuracy 5% removed: 0.7679 +covertype_test_precision 5% removed: 0.7691 +covertype_test_recall 5% removed: 0.7679 +covertype_test_f1-score 5% removed: 0.7667 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 12 samples (0.67%) + Class 1: 937 samples (52.06%) + Class 2: 754 samples (41.89%) + Class 3: 45 samples (2.50%) + Class 4: 43 samples (2.39%) + Class 5: 9 samples (0.50%) +============================================================ +covertype_test_accuracy 10% removed: 0.7717 +covertype_test_precision 10% removed: 0.7733 +covertype_test_recall 10% removed: 0.7717 +covertype_test_f1-score 10% removed: 0.7708 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 816 samples (51.00%) + Class 2: 718 samples (44.88%) + Class 3: 34 samples (2.12%) + Class 4: 22 samples (1.38%) + Class 5: 3 samples (0.19%) +============================================================ +covertype_test_accuracy 20% removed: 0.7744 +covertype_test_precision 20% removed: 0.7773 +covertype_test_recall 20% removed: 0.7744 +covertype_test_f1-score 20% removed: 0.7740 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 1 samples (0.10%) + Class 1: 500 samples (50.00%) + Class 2: 492 samples (49.20%) + Class 3: 7 samples (0.70%) +============================================================ +covertype_test_accuracy 50% removed: 0.7760 +covertype_test_precision 50% removed: 0.7804 +covertype_test_recall 50% removed: 0.7760 +covertype_test_f1-score 50% removed: 0.7757 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmplgoev_ff/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmplgoev_ff/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmplgoev_ff/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmplgoev_ff/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 96.17it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7487487196922302 │ +│ covertype_val_f1-score │ 0.74530029296875 │ +│ covertype_val_loss │ 0.6013666391372681 │ +│ covertype_val_precision │ 0.7454917430877686 │ +│ covertype_val_recall │ 0.7487487196922302 │ +│ covertype_val_score │ 0.7487487196922302 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 261.29it/s +Validation metrics: [{'covertype_val_loss': 0.6013666391372681, 'lr': 0.0, 'covertype_val_accuracy': 0.7487487196922302, 'covertype_val_precision': 0.7454917430877686, 'covertype_val_recall': 0.7487487196922302, 'covertype_val_f1-score': 0.74530029296875, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7487487196922302}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 11 samples (0.55%) + Class 1: 996 samples (49.80%) + Class 2: 740 samples (37.00%) + Class 3: 55 samples (2.75%) + Class 4: 137 samples (6.85%) + Class 5: 57 samples (2.85%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7509999871253967 │ +│ covertype_test_f1-score │ 0.7487419247627258 │ +│ covertype_test_loss │ 0.5808985233306885 │ +│ covertype_test_precision │ 0.7515121698379517 │ +│ covertype_test_recall │ 0.7509999871253967 │ +│ covertype_test_score │ 0.7509999871253967 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 102.81it/s +Test metrics: [{'covertype_test_loss': 0.5808985233306885, 'lr': 0.0, 'covertype_test_accuracy': 0.7509999871253967, 'covertype_test_precision': 0.7515121698379517, 'covertype_test_recall': 0.7509999871253967, 'covertype_test_f1-score': 0.7487419247627258, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7509999871253967}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 11 samples (0.58%) + Class 1: 994 samples (52.32%) + Class 2: 738 samples (38.84%) + Class 3: 53 samples (2.79%) + Class 4: 72 samples (3.79%) + Class 5: 32 samples (1.68%) +============================================================ +covertype_test_accuracy 5% removed: 0.7616 +covertype_test_precision 5% removed: 0.7608 +covertype_test_recall 5% removed: 0.7616 +covertype_test_f1-score 5% removed: 0.7593 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 9 samples (0.50%) + Class 1: 958 samples (53.22%) + Class 2: 734 samples (40.78%) + Class 3: 43 samples (2.39%) + Class 4: 45 samples (2.50%) + Class 5: 11 samples (0.61%) +============================================================ +covertype_test_accuracy 10% removed: 0.7667 +covertype_test_precision 10% removed: 0.7665 +covertype_test_recall 10% removed: 0.7667 +covertype_test_f1-score 10% removed: 0.7649 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 5 samples (0.31%) + Class 1: 839 samples (52.44%) + Class 2: 694 samples (43.38%) + Class 3: 33 samples (2.06%) + Class 4: 25 samples (1.56%) + Class 5: 4 samples (0.25%) +============================================================ +covertype_test_accuracy 20% removed: 0.7694 +covertype_test_precision 20% removed: 0.7696 +covertype_test_recall 20% removed: 0.7694 +covertype_test_f1-score 20% removed: 0.7681 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 1 samples (0.10%) + Class 1: 521 samples (52.10%) + Class 2: 471 samples (47.10%) + Class 3: 6 samples (0.60%) + Class 4: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7680 +covertype_test_precision 50% removed: 0.7679 +covertype_test_recall 50% removed: 0.7680 +covertype_test_f1-score 50% removed: 0.7671 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmplgoev_ff/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmplgoev_ff/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmplgoev_ff/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmplgoev_ff/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 69.38it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7557557821273804 │ +│ covertype_val_f1-score │ 0.7522748708724976 │ +│ covertype_val_loss │ 0.5895121693611145 │ +│ covertype_val_precision │ 0.7564280033111572 │ +│ covertype_val_recall │ 0.7557557821273804 │ +│ covertype_val_score │ 0.7557557821273804 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 177.95it/s +Validation metrics: [{'covertype_val_loss': 0.5895121693611145, 'lr': 0.0, 'covertype_val_accuracy': 0.7557557821273804, 'covertype_val_precision': 0.7564280033111572, 'covertype_val_recall': 0.7557557821273804, 'covertype_val_f1-score': 0.7522748708724976, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7557557821273804}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 12 samples (0.60%) + Class 1: 992 samples (49.60%) + Class 2: 750 samples (37.50%) + Class 3: 54 samples (2.70%) + Class 4: 127 samples (6.35%) + Class 5: 61 samples (3.05%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7534999847412109 │ +│ covertype_test_f1-score │ 0.7515909075737 │ +│ covertype_test_loss │ 0.5834830403327942 │ +│ covertype_test_precision │ 0.7542216181755066 │ +│ covertype_test_recall │ 0.7534999847412109 │ +│ covertype_test_score │ 0.7534999847412109 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 220.29it/s +Test metrics: [{'covertype_test_loss': 0.5834830403327942, 'lr': 0.0, 'covertype_test_accuracy': 0.7534999847412109, 'covertype_test_precision': 0.7542216181755066, 'covertype_test_recall': 0.7534999847412109, 'covertype_test_f1-score': 0.7515909075737, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7534999847412109}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 12 samples (0.63%) + Class 1: 988 samples (52.00%) + Class 2: 748 samples (39.37%) + Class 3: 52 samples (2.74%) + Class 4: 70 samples (3.68%) + Class 5: 29 samples (1.53%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7632 +covertype_test_precision 5% removed: 0.7629 +covertype_test_recall 5% removed: 0.7632 +covertype_test_f1-score 5% removed: 0.7611 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 11 samples (0.61%) + Class 1: 949 samples (52.72%) + Class 2: 745 samples (41.39%) + Class 3: 41 samples (2.28%) + Class 4: 44 samples (2.44%) + Class 5: 10 samples (0.56%) +============================================================ +covertype_test_accuracy 10% removed: 0.7672 +covertype_test_precision 10% removed: 0.7673 +covertype_test_recall 10% removed: 0.7672 +covertype_test_f1-score 10% removed: 0.7657 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 831 samples (51.94%) + Class 2: 703 samples (43.94%) + Class 3: 32 samples (2.00%) + Class 4: 23 samples (1.44%) + Class 5: 4 samples (0.25%) +============================================================ +covertype_test_accuracy 20% removed: 0.7725 +covertype_test_precision 20% removed: 0.7739 +covertype_test_recall 20% removed: 0.7725 +covertype_test_f1-score 20% removed: 0.7717 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 0: 3 samples (0.30%) + Class 1: 519 samples (51.90%) + Class 2: 472 samples (47.20%) + Class 3: 6 samples (0.60%) +============================================================ +covertype_test_accuracy 50% removed: 0.7840 +covertype_test_precision 50% removed: 0.7851 +covertype_test_recall 50% removed: 0.7840 +covertype_test_f1-score 50% removed: 0.7836 +Wrote results for autoint on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/autoint_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7538±0.0047 5%: 0.7625±0.0049 10%: 0.7674±0.0047 20%: 0.7715±0.0060 50%: 0.7760±0.0099 +covertype_test_precision 0%: 0.7541±0.0063 5%: 0.7618±0.0069 10%: 0.7672±0.0064 20%: 0.7726±0.0063 50%: 0.7773±0.0104 +covertype_test_recall 0%: 0.7538±0.0047 5%: 0.7625±0.0049 10%: 0.7674±0.0047 20%: 0.7715±0.0060 50%: 0.7760±0.0099 +covertype_test_f1-score 0%: 0.7517±0.0054 5%: 0.7603±0.0057 10%: 0.7658±0.0054 20%: 0.7707±0.0061 50%: 0.7754±0.0099 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'fttransformer'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp09uk87lb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp09uk87lb/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp09uk87lb/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp09uk87lb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 40.75it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7377377152442932 │ +│ covertype_val_f1-score │ 0.7281290292739868 │ +│ covertype_val_loss │ 0.6111931204795837 │ +│ covertype_val_precision │ 0.7327452301979065 │ +│ covertype_val_recall │ 0.7377377152442932 │ +│ covertype_val_score │ 0.7377377152442932 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 255.67it/s +Validation metrics: [{'covertype_val_loss': 0.6111931204795837, 'lr': 0.0, 'covertype_val_accuracy': 0.7377377152442932, 'covertype_val_precision': 0.7327452301979065, 'covertype_val_recall': 0.7377377152442932, 'covertype_val_f1-score': 0.7281290292739868, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7377377152442932}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 4 samples (0.20%) + Class 1: 1027 samples (51.35%) + Class 2: 735 samples (36.75%) + Class 3: 52 samples (2.60%) + Class 4: 145 samples (7.25%) + Class 5: 32 samples (1.60%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7304999828338623 │ +│ covertype_test_f1-score │ 0.7239475250244141 │ +│ covertype_test_loss │ 0.607133686542511 │ +│ covertype_test_precision │ 0.7306186556816101 │ +│ covertype_test_recall │ 0.7304999828338623 │ +│ covertype_test_score │ 0.7304999828338623 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 137.22it/s +Test metrics: [{'covertype_test_loss': 0.607133686542511, 'lr': 0.0, 'covertype_test_accuracy': 0.7304999828338623, 'covertype_test_precision': 0.7306186556816101, 'covertype_test_recall': 0.7304999828338623, 'covertype_test_f1-score': 0.7239475250244141, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7304999828338623}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 4 samples (0.21%) + Class 1: 1023 samples (53.84%) + Class 2: 733 samples (38.58%) + Class 3: 50 samples (2.63%) + Class 4: 77 samples (4.05%) + Class 5: 13 samples (0.68%) +============================================================ +covertype_test_accuracy 5% removed: 0.7384 +covertype_test_precision 5% removed: 0.7378 +covertype_test_recall 5% removed: 0.7384 +covertype_test_f1-score 5% removed: 0.7323 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 3 samples (0.17%) + Class 1: 981 samples (54.50%) + Class 2: 725 samples (40.28%) + Class 3: 44 samples (2.44%) + Class 4: 45 samples (2.50%) + Class 5: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7456 +covertype_test_precision 10% removed: 0.7419 +covertype_test_recall 10% removed: 0.7456 +covertype_test_f1-score 10% removed: 0.7401 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 2 samples (0.12%) + Class 1: 854 samples (53.37%) + Class 2: 684 samples (42.75%) + Class 3: 34 samples (2.12%) + Class 4: 26 samples (1.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7500 +covertype_test_precision 20% removed: 0.7499 +covertype_test_recall 20% removed: 0.7500 +covertype_test_f1-score 20% removed: 0.7477 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 1: 534 samples (53.40%) + Class 2: 457 samples (45.70%) + Class 3: 7 samples (0.70%) + Class 4: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7530 +covertype_test_precision 50% removed: 0.7522 +covertype_test_recall 50% removed: 0.7530 +covertype_test_f1-score 50% removed: 0.7522 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp09uk87lb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp09uk87lb/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp09uk87lb/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp09uk87lb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:01 • 0:00:00 48.52it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7387387156486511 │ +│ covertype_val_f1-score │ 0.7304468750953674 │ +│ covertype_val_loss │ 0.6171271800994873 │ +│ covertype_val_precision │ 0.7286803722381592 │ +│ covertype_val_recall │ 0.7387387156486511 │ +│ covertype_val_score │ 0.7387387156486511 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 209.75it/s +Validation metrics: [{'covertype_val_loss': 0.6171271800994873, 'lr': 0.0, 'covertype_val_accuracy': 0.7387387156486511, 'covertype_val_precision': 0.7286803722381592, 'covertype_val_recall': 0.7387387156486511, 'covertype_val_f1-score': 0.7304468750953674, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7387387156486511}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 984 samples (49.20%) + Class 2: 769 samples (38.45%) + Class 3: 55 samples (2.75%) + Class 4: 146 samples (7.30%) + Class 5: 42 samples (2.10%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7285000085830688 │ +│ covertype_test_f1-score │ 0.7213782072067261 │ +│ covertype_test_loss │ 0.6176497340202332 │ +│ covertype_test_precision │ 0.7187601923942566 │ +│ covertype_test_recall │ 0.7285000085830688 │ +│ covertype_test_score │ 0.7285000085830688 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 151.65it/s +Test metrics: [{'covertype_test_loss': 0.6176497340202332, 'lr': 0.0, 'covertype_test_accuracy': 0.7285000085830688, 'covertype_test_precision': 0.7187601923942566, 'covertype_test_recall': 0.7285000085830688, 'covertype_test_f1-score': 0.7213782072067261, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7285000085830688}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 1: 982 samples (51.68%) + Class 2: 767 samples (40.37%) + Class 3: 53 samples (2.79%) + Class 4: 78 samples (4.11%) + Class 5: 20 samples (1.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7358 +covertype_test_precision 5% removed: 0.7246 +covertype_test_recall 5% removed: 0.7358 +covertype_test_f1-score 5% removed: 0.7290 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 1: 942 samples (52.33%) + Class 2: 760 samples (42.22%) + Class 3: 46 samples (2.56%) + Class 4: 45 samples (2.50%) + Class 5: 7 samples (0.39%) +============================================================ +covertype_test_accuracy 10% removed: 0.7439 +covertype_test_precision 10% removed: 0.7357 +covertype_test_recall 10% removed: 0.7439 +covertype_test_f1-score 10% removed: 0.7389 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 1: 820 samples (51.25%) + Class 2: 719 samples (44.94%) + Class 3: 35 samples (2.19%) + Class 4: 25 samples (1.56%) + Class 5: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7494 +covertype_test_precision 20% removed: 0.7482 +covertype_test_recall 20% removed: 0.7494 +covertype_test_f1-score 20% removed: 0.7470 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 1: 510 samples (51.00%) + Class 2: 482 samples (48.20%) + Class 3: 6 samples (0.60%) + Class 4: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7560 +covertype_test_precision 50% removed: 0.7571 +covertype_test_recall 50% removed: 0.7560 +covertype_test_f1-score 50% removed: 0.7553 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp09uk87lb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp09uk87lb/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp09uk87lb/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp09uk87lb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 80.77it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.739739716053009 │ +│ covertype_val_f1-score │ 0.7325689792633057 │ +│ covertype_val_loss │ 0.5897223949432373 │ +│ covertype_val_precision │ 0.7291386723518372 │ +│ covertype_val_recall │ 0.739739716053009 │ +│ covertype_val_score │ 0.739739716053009 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 96.99it/s +Validation metrics: [{'covertype_val_loss': 0.5897223949432373, 'lr': 0.0, 'covertype_val_accuracy': 0.739739716053009, 'covertype_val_precision': 0.7291386723518372, 'covertype_val_recall': 0.739739716053009, 'covertype_val_f1-score': 0.7325689792633057, 'covertype_val_support': 999.0, 'covertype_val_score': 0.739739716053009}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 1002 samples (50.10%) + Class 2: 737 samples (36.85%) + Class 3: 57 samples (2.85%) + Class 4: 133 samples (6.65%) + Class 5: 52 samples (2.60%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7459999918937683 │ +│ covertype_test_f1-score │ 0.7438040375709534 │ +│ covertype_test_loss │ 0.5794447660446167 │ +│ covertype_test_precision │ 0.745229959487915 │ +│ covertype_test_recall │ 0.7459999918937683 │ +│ covertype_test_score │ 0.7459999918937683 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 237.34it/s +Test metrics: [{'covertype_test_loss': 0.5794447660446167, 'lr': 0.0, 'covertype_test_accuracy': 0.7459999918937683, 'covertype_test_precision': 0.745229959487915, 'covertype_test_recall': 0.7459999918937683, 'covertype_test_f1-score': 0.7438040375709534, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7459999918937683}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 999 samples (52.58%) + Class 2: 735 samples (38.68%) + Class 3: 55 samples (2.89%) + Class 4: 70 samples (3.68%) + Class 5: 26 samples (1.37%) +============================================================ +covertype_test_accuracy 5% removed: 0.7558 +covertype_test_precision 5% removed: 0.7542 +covertype_test_recall 5% removed: 0.7558 +covertype_test_f1-score 5% removed: 0.7538 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 959 samples (53.28%) + Class 2: 730 samples (40.56%) + Class 3: 46 samples (2.56%) + Class 4: 43 samples (2.39%) + Class 5: 9 samples (0.50%) +============================================================ +covertype_test_accuracy 10% removed: 0.7594 +covertype_test_precision 10% removed: 0.7583 +covertype_test_recall 10% removed: 0.7594 +covertype_test_f1-score 10% removed: 0.7580 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 836 samples (52.25%) + Class 2: 693 samples (43.31%) + Class 3: 37 samples (2.31%) + Class 4: 23 samples (1.44%) + Class 5: 4 samples (0.25%) +============================================================ +covertype_test_accuracy 20% removed: 0.7644 +covertype_test_precision 20% removed: 0.7645 +covertype_test_recall 20% removed: 0.7644 +covertype_test_f1-score 20% removed: 0.7636 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 1: 524 samples (52.40%) + Class 2: 468 samples (46.80%) + Class 3: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7740 +covertype_test_precision 50% removed: 0.7718 +covertype_test_recall 50% removed: 0.7740 +covertype_test_f1-score 50% removed: 0.7725 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp09uk87lb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp09uk87lb/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp09uk87lb/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp09uk87lb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 62.01it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7517517805099487 │ +│ covertype_val_f1-score │ 0.7429785132408142 │ +│ covertype_val_loss │ 0.6013173460960388 │ +│ covertype_val_precision │ 0.740911066532135 │ +│ covertype_val_recall │ 0.7517517805099487 │ +│ covertype_val_score │ 0.7517517805099487 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 224.81it/s +Validation metrics: [{'covertype_val_loss': 0.6013173460960388, 'lr': 0.0, 'covertype_val_accuracy': 0.7517517805099487, 'covertype_val_precision': 0.740911066532135, 'covertype_val_recall': 0.7517517805099487, 'covertype_val_f1-score': 0.7429785132408142, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7517517805099487}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 7 samples (0.35%) + Class 1: 1002 samples (50.10%) + Class 2: 752 samples (37.60%) + Class 3: 54 samples (2.70%) + Class 4: 147 samples (7.35%) + Class 5: 38 samples (1.90%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7475000023841858 │ +│ covertype_test_f1-score │ 0.740931510925293 │ +│ covertype_test_loss │ 0.5846076607704163 │ +│ covertype_test_precision │ 0.7420684099197388 │ +│ covertype_test_recall │ 0.7475000023841858 │ +│ covertype_test_score │ 0.7475000023841858 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 272.55it/s +Test metrics: [{'covertype_test_loss': 0.5846076607704163, 'lr': 0.0, 'covertype_test_accuracy': 0.7475000023841858, 'covertype_test_precision': 0.7420684099197388, 'covertype_test_recall': 0.7475000023841858, 'covertype_test_f1-score': 0.740931510925293, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7475000023841858}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 7 samples (0.37%) + Class 1: 994 samples (52.32%) + Class 2: 750 samples (39.47%) + Class 3: 52 samples (2.74%) + Class 4: 73 samples (3.84%) + Class 5: 24 samples (1.26%) +============================================================ +covertype_test_accuracy 5% removed: 0.7568 +covertype_test_precision 5% removed: 0.7534 +covertype_test_recall 5% removed: 0.7568 +covertype_test_f1-score 5% removed: 0.7526 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 6 samples (0.33%) + Class 1: 953 samples (52.94%) + Class 2: 744 samples (41.33%) + Class 3: 44 samples (2.44%) + Class 4: 46 samples (2.56%) + Class 5: 7 samples (0.39%) +============================================================ +covertype_test_accuracy 10% removed: 0.7633 +covertype_test_precision 10% removed: 0.7607 +covertype_test_recall 10% removed: 0.7633 +covertype_test_f1-score 10% removed: 0.7601 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 3 samples (0.19%) + Class 1: 829 samples (51.81%) + Class 2: 706 samples (44.12%) + Class 3: 33 samples (2.06%) + Class 4: 26 samples (1.62%) + Class 5: 3 samples (0.19%) +============================================================ +covertype_test_accuracy 20% removed: 0.7675 +covertype_test_precision 20% removed: 0.7668 +covertype_test_recall 20% removed: 0.7675 +covertype_test_f1-score 20% removed: 0.7658 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 1: 508 samples (50.80%) + Class 2: 483 samples (48.30%) + Class 3: 7 samples (0.70%) + Class 4: 2 samples (0.20%) +============================================================ +covertype_test_accuracy 50% removed: 0.7780 +covertype_test_precision 50% removed: 0.7790 +covertype_test_recall 50% removed: 0.7780 +covertype_test_f1-score 50% removed: 0.7774 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp09uk87lb/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp09uk87lb/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp09uk87lb/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp09uk87lb/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 68.47it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7437437176704407 │ +│ covertype_val_f1-score │ 0.7333909273147583 │ +│ covertype_val_loss │ 0.6002516150474548 │ +│ covertype_val_precision │ 0.7346887588500977 │ +│ covertype_val_recall │ 0.7437437176704407 │ +│ covertype_val_score │ 0.7437437176704407 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 237.10it/s +Validation metrics: [{'covertype_val_loss': 0.6002516150474548, 'lr': 0.0, 'covertype_val_accuracy': 0.7437437176704407, 'covertype_val_precision': 0.7346887588500977, 'covertype_val_recall': 0.7437437176704407, 'covertype_val_f1-score': 0.7333909273147583, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7437437176704407}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 5 samples (0.25%) + Class 1: 1044 samples (52.20%) + Class 2: 708 samples (35.40%) + Class 3: 58 samples (2.90%) + Class 4: 146 samples (7.30%) + Class 5: 34 samples (1.70%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7409999966621399 │ +│ covertype_test_f1-score │ 0.7346950173377991 │ +│ covertype_test_loss │ 0.5912297964096069 │ +│ covertype_test_precision │ 0.7405728697776794 │ +│ covertype_test_recall │ 0.7409999966621399 │ +│ covertype_test_score │ 0.7409999966621399 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 289.16it/s +Test metrics: [{'covertype_test_loss': 0.5912297964096069, 'lr': 0.0, 'covertype_test_accuracy': 0.7409999966621399, 'covertype_test_precision': 0.7405728697776794, 'covertype_test_recall': 0.7409999966621399, 'covertype_test_f1-score': 0.7346950173377991, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7409999966621399}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.68%) + Class 1: 1007 samples (53.00%) + Class 2: 706 samples (37.16%) + Class 3: 62 samples (3.26%) + Class 4: 62 samples (3.26%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +Predicted class frequencies: + Class 0: 5 samples (0.26%) + Class 1: 1040 samples (54.74%) + Class 2: 706 samples (37.16%) + Class 3: 56 samples (2.95%) + Class 4: 76 samples (4.00%) + Class 5: 17 samples (0.89%) +============================================================ +covertype_test_accuracy 5% removed: 0.7484 +covertype_test_precision 5% removed: 0.7470 +covertype_test_recall 5% removed: 0.7484 +covertype_test_f1-score 5% removed: 0.7428 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 973 samples (54.06%) + Class 2: 701 samples (38.94%) + Class 3: 52 samples (2.89%) + Class 4: 37 samples (2.06%) + Class 5: 12 samples (0.67%) +Predicted class frequencies: + Class 0: 4 samples (0.22%) + Class 1: 1000 samples (55.56%) + Class 2: 702 samples (39.00%) + Class 3: 46 samples (2.56%) + Class 4: 44 samples (2.44%) + Class 5: 4 samples (0.22%) +============================================================ +covertype_test_accuracy 10% removed: 0.7544 +covertype_test_precision 10% removed: 0.7533 +covertype_test_recall 10% removed: 0.7544 +covertype_test_f1-score 10% removed: 0.7499 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 868 samples (54.25%) + Class 2: 654 samples (40.88%) + Class 3: 44 samples (2.75%) + Class 4: 17 samples (1.06%) + Class 5: 3 samples (0.19%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 869 samples (54.31%) + Class 2: 666 samples (41.62%) + Class 3: 37 samples (2.31%) + Class 4: 25 samples (1.56%) + Class 5: 2 samples (0.12%) +============================================================ +covertype_test_accuracy 20% removed: 0.7575 +covertype_test_precision 20% removed: 0.7526 +covertype_test_recall 20% removed: 0.7575 +covertype_test_f1-score 20% removed: 0.7546 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [3] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 536 samples (53.60%) + Class 2: 449 samples (44.90%) + Class 3: 11 samples (1.10%) +Predicted class frequencies: + Class 1: 541 samples (54.10%) + Class 2: 451 samples (45.10%) + Class 3: 7 samples (0.70%) + Class 4: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7670 +covertype_test_precision 50% removed: 0.7650 +covertype_test_recall 50% removed: 0.7670 +covertype_test_f1-score 50% removed: 0.7656 +Wrote results for fttransformer on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/fttransformer_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7387±0.0109 5%: 0.7471±0.0120 10%: 0.7533±0.0105 20%: 0.7577±0.0102 50%: 0.7656±0.0136 +covertype_test_precision 0%: 0.7355±0.0134 5%: 0.7434±0.0154 10%: 0.7500±0.0134 20%: 0.7564±0.0107 50%: 0.7650±0.0135 +covertype_test_recall 0%: 0.7387±0.0109 5%: 0.7471±0.0120 10%: 0.7533±0.0105 20%: 0.7577±0.0102 50%: 0.7656±0.0136 +covertype_test_f1-score 0%: 0.7330±0.0124 5%: 0.7421±0.0141 10%: 0.7494±0.0122 20%: 0.7557±0.0108 50%: 0.7646±0.0134 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'xgboost'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=xgboost --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy --use_split_assignments=True --exp_train_total_epochs=1 --split_config_file=/tmp/tmps9yf9ppu/split_data/split_config.json --sigma_aggregation=mean --n_estimators=100 --max_depth=3 --learning_rate=0.1 --subsample=1.0 --colsample_bytree=1.0 --reg_alpha=0.0 --reg_lambda=1.0 --n_jobs=-1 --random_state=42 --encoder_type=linear_flatten --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmps9yf9ppu/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 64 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ -1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.0001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ xgboost │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmps9yf9ppu/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmps9yf9ppu/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 1e-05 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: xgboost + +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +XGBoostLightning [1, 3456] [1, 3456] -- -- -- +===================================================================================================================================================================== +Total params: 0 +Trainable params: 0 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 0 +===================================================================================================================================================================== +Input size (MB): 0.01 +Forward/backward pass size (MB): 0.00 +Params size (MB): 0.00 +Estimated Total Size (MB): 0.01 +===================================================================================================================================================================== +GPU available: True (cuda), used: False +TPU available: False, using: 0 TPU cores +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/setup.py:175: GPU available but not used. You can set it by doing `Trainer(accelerator='gpu')`. +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1)` was configured so 1 batch per epoch will be used. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/core/optimizer.py:183: `LightningModule.configure_optimizers` returned `None`, this fit will run with no optimizer +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Identity │ 0 │ train │ 0 │ +│ 2 │ encoder │ Identity │ 0 │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 0 +Non-trainable params: 0 +Total params: 0 +Total estimated model params size (MB): 0.000 +Modules in train mode: 3 +Modules in eval mode: 0 +Total FLOPs: 0 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..711de085f4eb7c0f126268e8a0b15f4c40293c63 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "e1fb426b1a3c5b791bc2d258e1863928c0e505ccf36637c0e5691751ed46f776", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "4deb20016ca09ec340f89aa2d63521c81d4f894ca2317e43d5c4eb41b014bcb3", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": false, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 0.0, + "start_epoch": 1, + "annealing_epochs": 0 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "0.0", + "--vtjepa_kl_y_annealing_epochs", + "0", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..1d1baab276d095709b8f6e18d9be3b39036448d6 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpgjo_royl", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpgjo_royl/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6248536109924316, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7511715292930603, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7504031658172607, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5850175023078918, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.762499988079071, + "covertype_test_precision": 0.7619391679763794, + "covertype_test_recall": 0.762499988079071, + "covertype_test_f1-score": 0.7610217332839966, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.762499988079071 + }, + "5": { + "covertype_test_loss": 0.5677614212036133, + "covertype_test_accuracy": 0.7673684358596802, + "covertype_test_precision": 0.7672092318534851, + "covertype_test_recall": 0.7673684358596802, + "covertype_test_f1-score": 0.7661241292953491, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7673684358596802 + }, + "10": { + "covertype_test_loss": 0.5484059453010559, + "covertype_test_accuracy": 0.7716666460037231, + "covertype_test_precision": 0.7702764868736267, + "covertype_test_recall": 0.7716666460037231, + "covertype_test_f1-score": 0.7699151039123535, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7716666460037231 + }, + "20": { + "covertype_test_loss": 0.539100170135498, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7731991410255432, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7722842693328857, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7749999761581421 + }, + "50": { + "covertype_test_loss": 0.5129574537277222, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7783519625663757, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.7791580557823181, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.781000018119812 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6277594566345215, + "lr": 6.18466583546251e-05, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.755271852016449, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7512263655662537, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6104514002799988, + "lr": 6.184667290654033e-05, + "covertype_test_accuracy": 0.7559999823570251, + "covertype_test_precision": 0.760047972202301, + "covertype_test_recall": 0.7559999823570251, + "covertype_test_f1-score": 0.7542351484298706, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7559999823570251 + }, + "5": { + "covertype_test_loss": 0.5919145345687866, + "covertype_test_accuracy": 0.7631579041481018, + "covertype_test_precision": 0.7663797736167908, + "covertype_test_recall": 0.7631579041481018, + "covertype_test_f1-score": 0.7614976763725281, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7631579041481018 + }, + "10": { + "covertype_test_loss": 0.5653000473976135, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7725808620452881, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7681134343147278, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7699999809265137 + }, + "20": { + "covertype_test_loss": 0.5417203307151794, + "covertype_test_accuracy": 0.778124988079071, + "covertype_test_precision": 0.779091477394104, + "covertype_test_recall": 0.778124988079071, + "covertype_test_f1-score": 0.7751592397689819, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.778124988079071 + }, + "50": { + "covertype_test_loss": 0.5022730827331543, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.8000096678733826, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7988277077674866, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.800000011920929 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6140923500061035, + "lr": 1.5708421415183693e-05, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7548018097877502, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7541046142578125, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5952626466751099, + "lr": 1.5708415958215483e-05, + "covertype_test_accuracy": 0.7570000290870667, + "covertype_test_precision": 0.758921205997467, + "covertype_test_recall": 0.7570000290870667, + "covertype_test_f1-score": 0.7569879293441772, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7570000290870667 + }, + "5": { + "covertype_test_loss": 0.5790169835090637, + "covertype_test_accuracy": 0.7605262994766235, + "covertype_test_precision": 0.7616069316864014, + "covertype_test_recall": 0.7605262994766235, + "covertype_test_f1-score": 0.7603788375854492, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7605262994766235 + }, + "10": { + "covertype_test_loss": 0.5636752843856812, + "covertype_test_accuracy": 0.7655555605888367, + "covertype_test_precision": 0.7666202187538147, + "covertype_test_recall": 0.7655555605888367, + "covertype_test_f1-score": 0.7652971148490906, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7655555605888367 + }, + "20": { + "covertype_test_loss": 0.549424946308136, + "covertype_test_accuracy": 0.7681249976158142, + "covertype_test_precision": 0.7676553726196289, + "covertype_test_recall": 0.7681249976158142, + "covertype_test_f1-score": 0.7670983076095581, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7681249976158142 + }, + "50": { + "covertype_test_loss": 0.5099738240242004, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7832422256469727, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7821041345596313, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6271417140960693, + "lr": 0.00013551570009440184, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7581850290298462, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7514937520027161, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5975548028945923, + "lr": 0.0001355156855424866, + "covertype_test_accuracy": 0.7480000257492065, + "covertype_test_precision": 0.7547934055328369, + "covertype_test_recall": 0.7480000257492065, + "covertype_test_f1-score": 0.745179295539856, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7480000257492065 + }, + "5": { + "covertype_test_loss": 0.5734278559684753, + "covertype_test_accuracy": 0.7557894587516785, + "covertype_test_precision": 0.7626119256019592, + "covertype_test_recall": 0.7557894587516785, + "covertype_test_f1-score": 0.7519503235816956, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7557894587516785 + }, + "10": { + "covertype_test_loss": 0.5511833429336548, + "covertype_test_accuracy": 0.7627778053283691, + "covertype_test_precision": 0.7695459127426147, + "covertype_test_recall": 0.7627778053283691, + "covertype_test_f1-score": 0.7582667469978333, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7627778053283691 + }, + "20": { + "covertype_test_loss": 0.5302417874336243, + "covertype_test_accuracy": 0.7718750238418579, + "covertype_test_precision": 0.7766731381416321, + "covertype_test_recall": 0.7718750238418579, + "covertype_test_f1-score": 0.7648019790649414, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7718750238418579 + }, + "50": { + "covertype_test_loss": 0.49178728461265564, + "covertype_test_accuracy": 0.7829999923706055, + "covertype_test_precision": 0.7877040505409241, + "covertype_test_recall": 0.7829999923706055, + "covertype_test_f1-score": 0.7776951789855957, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7829999923706055 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6112266778945923, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7557557821273804, + "covertype_val_precision": 0.7531107664108276, + "covertype_val_recall": 0.7557557821273804, + "covertype_val_f1-score": 0.7533409595489502, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7557557821273804 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6061452627182007, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7559999823570251, + "covertype_test_precision": 0.7561275362968445, + "covertype_test_recall": 0.7559999823570251, + "covertype_test_f1-score": 0.7537025213241577, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7559999823570251 + }, + "5": { + "covertype_test_loss": 0.589681088924408, + "covertype_test_accuracy": 0.7626315951347351, + "covertype_test_precision": 0.7604010701179504, + "covertype_test_recall": 0.7626315951347351, + "covertype_test_f1-score": 0.7598246335983276, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7626315951347351 + }, + "10": { + "covertype_test_loss": 0.5671489238739014, + "covertype_test_accuracy": 0.7677778005599976, + "covertype_test_precision": 0.7657772898674011, + "covertype_test_recall": 0.7677778005599976, + "covertype_test_f1-score": 0.7650164365768433, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7677778005599976 + }, + "20": { + "covertype_test_loss": 0.5546672344207764, + "covertype_test_accuracy": 0.7706249952316284, + "covertype_test_precision": 0.7673878073692322, + "covertype_test_recall": 0.7706249952316284, + "covertype_test_f1-score": 0.7674195170402527, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7706249952316284 + }, + "50": { + "covertype_test_loss": 0.5259484648704529, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7823551297187805, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7828046083450317, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5988863229751586, + "std": 0.009920828866749705, + "n": 5, + "ci95": 0.012316361224800808 + }, + "lr": { + "mean": 4.5173959460953486e-05, + "std": 5.551309098246168e-05, + "n": 5, + "ci95": 6.891755622725834e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7559000015258789, + "std": 0.005176859394046095, + "n": 5, + "ci95": 0.006426889442753227 + }, + "covertype_test_precision": { + "mean": 0.7583658576011658, + "std": 0.0029016790161957014, + "n": 5, + "ci95": 0.0036023327689553766 + }, + "covertype_test_recall": { + "mean": 0.7559000015258789, + "std": 0.005176859394046095, + "n": 5, + "ci95": 0.006426889442753227 + }, + "covertype_test_f1-score": { + "mean": 0.7542253255844116, + "std": 0.0058293914241172124, + "n": 5, + "ci95": 0.007236985081036474 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7559000015258789, + "std": 0.005176859394046095, + "n": 5, + "ci95": 0.006426889442753227 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5803603768348694, + "std": 0.010355825280795802, + "n": 5, + "ci95": 0.012856394022346687 + }, + "covertype_test_accuracy": { + "mean": 0.7618947386741638, + "std": 0.004220396133837194, + "n": 5, + "ci95": 0.00523947383774613 + }, + "covertype_test_precision": { + "mean": 0.7636417865753173, + "std": 0.0029969455305543157, + "n": 5, + "ci95": 0.0037206028065931472 + }, + "covertype_test_recall": { + "mean": 0.7618947386741638, + "std": 0.004220396133837194, + "n": 5, + "ci95": 0.00523947383774613 + }, + "covertype_test_f1-score": { + "mean": 0.7599551200866699, + "std": 0.005116382629364979, + "n": 5, + "ci95": 0.00635180965964999 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7618947386741638, + "std": 0.004220396133837194, + "n": 5, + "ci95": 0.00523947383774613 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5591427087783813, + "std": 0.008677357536740938, + "n": 5, + "ci95": 0.010772635163322134 + }, + "covertype_test_accuracy": { + "mean": 0.7675555586814881, + "std": 0.0035267743764461953, + "n": 5, + "ci95": 0.004378366743555567 + }, + "covertype_test_precision": { + "mean": 0.768960154056549, + "std": 0.0027744951491613067, + "n": 5, + "ci95": 0.003444438456957649 + }, + "covertype_test_recall": { + "mean": 0.7675555586814881, + "std": 0.0035267743764461953, + "n": 5, + "ci95": 0.004378366743555567 + }, + "covertype_test_f1-score": { + "mean": 0.7653217673301697, + "std": 0.00443732160242332, + "n": 5, + "ci95": 0.0055087792018292045 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7675555586814881, + "std": 0.0035267743764461953, + "n": 5, + "ci95": 0.004378366743555567 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5430308938026428, + "std": 0.009447456487012425, + "n": 5, + "ci95": 0.011728686011268167 + }, + "covertype_test_accuracy": { + "mean": 0.7727499961853027, + "std": 0.0038930953352998635, + "n": 5, + "ci95": 0.004833141371165419 + }, + "covertype_test_precision": { + "mean": 0.7728013873100281, + "std": 0.005256001587595234, + "n": 5, + "ci95": 0.006525141701406858 + }, + "covertype_test_recall": { + "mean": 0.7727499961853027, + "std": 0.0038930953352998635, + "n": 5, + "ci95": 0.004833141371165419 + }, + "covertype_test_f1-score": { + "mean": 0.769352662563324, + "std": 0.004237881111770293, + "n": 5, + "ci95": 0.0052611808248461175 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7727499961853027, + "std": 0.0038930953352998635, + "n": 5, + "ci95": 0.004833141371165419 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5085880219936371, + "std": 0.012693902002873484, + "n": 5, + "ci95": 0.015759034302426568 + }, + "covertype_test_accuracy": { + "mean": 0.7862000107765198, + "std": 0.007854936065909833, + "n": 5, + "ci95": 0.009751627740470937 + }, + "covertype_test_precision": { + "mean": 0.7863326072692871, + "std": 0.008336730767001064, + "n": 5, + "ci95": 0.010349758970687253 + }, + "covertype_test_recall": { + "mean": 0.7862000107765198, + "std": 0.007854936065909833, + "n": 5, + "ci95": 0.009751627740470937 + }, + "covertype_test_f1-score": { + "mean": 0.7841179370880127, + "std": 0.008485426192329795, + "n": 5, + "ci95": 0.010534359128135998 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7862000107765198, + "std": 0.007854936065909833, + "n": 5, + "ci95": 0.009751627740470937 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..4b66922111abe1461228eeb39bc6b6f2d1c96f22 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpwokonql_", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpwokonql_/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5631105303764343, + "lr": 0.0, + "covertype_val_accuracy": 0.7857857942581177, + "covertype_val_precision": 0.781997799873352, + "covertype_val_recall": 0.7857857942581177, + "covertype_val_f1-score": 0.7824288010597229, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7857857942581177 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5724681615829468, + "lr": 0.0, + "covertype_test_accuracy": 0.7944999933242798, + "covertype_test_precision": 0.7939324975013733, + "covertype_test_recall": 0.7944999933242798, + "covertype_test_f1-score": 0.7934777736663818, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7944999933242798 + }, + "5": { + "covertype_test_loss": 0.5573118925094604, + "covertype_test_accuracy": 0.8010526299476624, + "covertype_test_precision": 0.799225926399231, + "covertype_test_recall": 0.8010526299476624, + "covertype_test_f1-score": 0.7994503974914551, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.8010526299476624 + }, + "10": { + "covertype_test_loss": 0.5163398385047913, + "covertype_test_accuracy": 0.8077777624130249, + "covertype_test_precision": 0.8058486580848694, + "covertype_test_recall": 0.8077777624130249, + "covertype_test_f1-score": 0.8059836030006409, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8077777624130249 + }, + "20": { + "covertype_test_loss": 0.5030227899551392, + "covertype_test_accuracy": 0.8131250143051147, + "covertype_test_precision": 0.8106253147125244, + "covertype_test_recall": 0.8131250143051147, + "covertype_test_f1-score": 0.8107162117958069, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8131250143051147 + }, + "50": { + "covertype_test_loss": 0.4694766402244568, + "covertype_test_accuracy": 0.8230000138282776, + "covertype_test_precision": 0.8207827806472778, + "covertype_test_recall": 0.8230000138282776, + "covertype_test_f1-score": 0.8210000991821289, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8230000138282776 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5548800826072693, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.7787787914276123, + "covertype_val_precision": 0.7693166136741638, + "covertype_val_recall": 0.7787787914276123, + "covertype_val_f1-score": 0.7715549468994141, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7787787914276123 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5672217011451721, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.7875000238418579, + "covertype_test_precision": 0.7877731323242188, + "covertype_test_recall": 0.7875000238418579, + "covertype_test_f1-score": 0.7858139872550964, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7875000238418579 + }, + "5": { + "covertype_test_loss": 0.5463765859603882, + "covertype_test_accuracy": 0.7963157892227173, + "covertype_test_precision": 0.7943115830421448, + "covertype_test_recall": 0.7963157892227173, + "covertype_test_f1-score": 0.7946149110794067, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7963157892227173 + }, + "10": { + "covertype_test_loss": 0.5113189816474915, + "covertype_test_accuracy": 0.8027777671813965, + "covertype_test_precision": 0.8007165789604187, + "covertype_test_recall": 0.8027777671813965, + "covertype_test_f1-score": 0.8007822036743164, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8027777671813965 + }, + "20": { + "covertype_test_loss": 0.5040203332901001, + "covertype_test_accuracy": 0.8037499785423279, + "covertype_test_precision": 0.8019910454750061, + "covertype_test_recall": 0.8037499785423279, + "covertype_test_f1-score": 0.8017109036445618, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8037499785423279 + }, + "50": { + "covertype_test_loss": 0.4741651117801666, + "covertype_test_accuracy": 0.8109999895095825, + "covertype_test_precision": 0.810353696346283, + "covertype_test_recall": 0.8109999895095825, + "covertype_test_f1-score": 0.8090620040893555, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8109999895095825 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5699179768562317, + "lr": 2.4471739379805513e-05, + "covertype_val_accuracy": 0.781781792640686, + "covertype_val_precision": 0.7749180793762207, + "covertype_val_recall": 0.781781792640686, + "covertype_val_f1-score": 0.7770677208900452, + "covertype_val_support": 999.0, + "covertype_val_score": 0.781781792640686 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5627843141555786, + "lr": 2.4471744836773723e-05, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7907463312149048, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.78958660364151, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7910000085830688 + }, + "5": { + "covertype_test_loss": 0.5458483099937439, + "covertype_test_accuracy": 0.7984210252761841, + "covertype_test_precision": 0.7964575290679932, + "covertype_test_recall": 0.7984210252761841, + "covertype_test_f1-score": 0.796747624874115, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7984210252761841 + }, + "10": { + "covertype_test_loss": 0.5192087888717651, + "covertype_test_accuracy": 0.8055555820465088, + "covertype_test_precision": 0.8036761283874512, + "covertype_test_recall": 0.8055555820465088, + "covertype_test_f1-score": 0.8036612272262573, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8055555820465088 + }, + "20": { + "covertype_test_loss": 0.5171948075294495, + "covertype_test_accuracy": 0.8062499761581421, + "covertype_test_precision": 0.8041910529136658, + "covertype_test_recall": 0.8062499761581421, + "covertype_test_f1-score": 0.804095983505249, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8062499761581421 + }, + "50": { + "covertype_test_loss": 0.49191948771476746, + "covertype_test_accuracy": 0.8180000185966492, + "covertype_test_precision": 0.815907895565033, + "covertype_test_recall": 0.8180000185966492, + "covertype_test_f1-score": 0.8160490393638611, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8180000185966492 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5489013195037842, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7797797918319702, + "covertype_val_precision": 0.7741147875785828, + "covertype_val_recall": 0.7797797918319702, + "covertype_val_f1-score": 0.7753358483314514, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7797797918319702 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5482168197631836, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7929999828338623, + "covertype_test_precision": 0.7918200492858887, + "covertype_test_recall": 0.7929999828338623, + "covertype_test_f1-score": 0.7911635041236877, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7929999828338623 + }, + "5": { + "covertype_test_loss": 0.5322534441947937, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7973875403404236, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7978724241256714, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.800000011920929 + }, + "10": { + "covertype_test_loss": 0.5133587121963501, + "covertype_test_accuracy": 0.8061110973358154, + "covertype_test_precision": 0.8041764497756958, + "covertype_test_recall": 0.8061110973358154, + "covertype_test_f1-score": 0.8038873672485352, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8061110973358154 + }, + "20": { + "covertype_test_loss": 0.5090822577476501, + "covertype_test_accuracy": 0.8075000047683716, + "covertype_test_precision": 0.8046597242355347, + "covertype_test_recall": 0.8075000047683716, + "covertype_test_f1-score": 0.8050405383110046, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8075000047683716 + }, + "50": { + "covertype_test_loss": 0.48739078640937805, + "covertype_test_accuracy": 0.8159999847412109, + "covertype_test_precision": 0.8148617148399353, + "covertype_test_recall": 0.8159999847412109, + "covertype_test_f1-score": 0.8140879273414612, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8159999847412109 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5815620422363281, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7747747898101807, + "covertype_val_precision": 0.7679494619369507, + "covertype_val_recall": 0.7747747898101807, + "covertype_val_f1-score": 0.7695013284683228, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7747747898101807 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5569356679916382, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7817760109901428, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.780073881149292, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7820000052452087 + }, + "5": { + "covertype_test_loss": 0.53878253698349, + "covertype_test_accuracy": 0.7873684167861938, + "covertype_test_precision": 0.7857122421264648, + "covertype_test_recall": 0.7873684167861938, + "covertype_test_f1-score": 0.7854585647583008, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7873684167861938 + }, + "10": { + "covertype_test_loss": 0.500174880027771, + "covertype_test_accuracy": 0.7955555319786072, + "covertype_test_precision": 0.7931900024414062, + "covertype_test_recall": 0.7955555319786072, + "covertype_test_f1-score": 0.7932657599449158, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7955555319786072 + }, + "20": { + "covertype_test_loss": 0.4860759377479553, + "covertype_test_accuracy": 0.7975000143051147, + "covertype_test_precision": 0.7952756285667419, + "covertype_test_recall": 0.7975000143051147, + "covertype_test_f1-score": 0.7950402498245239, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7975000143051147 + }, + "50": { + "covertype_test_loss": 0.4414621591567993, + "covertype_test_accuracy": 0.8090000152587891, + "covertype_test_precision": 0.8073474764823914, + "covertype_test_recall": 0.8090000152587891, + "covertype_test_f1-score": 0.8074908256530762, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8090000152587891 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5615253329277039, + "std": 0.009380307703570937, + "n": 5, + "ci95": 0.011645323150787515 + }, + "lr": { + "mean": 7.651480723325222e-06, + "std": 1.0013663146620759e-05, + "n": 5, + "ci95": 1.243161172859372e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7896000027656556, + "std": 0.004992485904306412, + "n": 5, + "ci95": 0.006197996219171696 + }, + "covertype_test_precision": { + "mean": 0.7892096042633057, + "std": 0.004711778699718409, + "n": 5, + "ci95": 0.0058495080659592925 + }, + "covertype_test_recall": { + "mean": 0.7896000027656556, + "std": 0.004992485904306412, + "n": 5, + "ci95": 0.006197996219171696 + }, + "covertype_test_f1-score": { + "mean": 0.7880231499671936, + "std": 0.005247151749937122, + "n": 5, + "ci95": 0.0065141549382198155 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7896000027656556, + "std": 0.004992485904306412, + "n": 5, + "ci95": 0.006197996219171696 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5441145539283753, + "std": 0.009372950088478833, + "n": 5, + "ci95": 0.011636188929600503 + }, + "covertype_test_accuracy": { + "mean": 0.7966315746307373, + "std": 0.005477226651842157, + "n": 5, + "ci95": 0.006799784862763752 + }, + "covertype_test_precision": { + "mean": 0.7946189641952515, + "std": 0.005284260037973321, + "n": 5, + "ci95": 0.00656022357684129 + }, + "covertype_test_recall": { + "mean": 0.7966315746307373, + "std": 0.005477226651842157, + "n": 5, + "ci95": 0.006799784862763752 + }, + "covertype_test_f1-score": { + "mean": 0.7948287844657898, + "std": 0.005526114300366108, + "n": 5, + "ci95": 0.00686047716445944 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7966315746307373, + "std": 0.005477226651842157, + "n": 5, + "ci95": 0.006799784862763752 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5120802402496338, + "std": 0.007295752016475417, + "n": 5, + "ci95": 0.009057420347471373 + }, + "covertype_test_accuracy": { + "mean": 0.8035555481910706, + "std": 0.004820872910813597, + "n": 5, + "ci95": 0.00598494470431179 + }, + "covertype_test_precision": { + "mean": 0.8015215635299683, + "std": 0.0050119165076735386, + "n": 5, + "ci95": 0.006222118632036557 + }, + "covertype_test_recall": { + "mean": 0.8035555481910706, + "std": 0.004820872910813597, + "n": 5, + "ci95": 0.00598494470431179 + }, + "covertype_test_f1-score": { + "mean": 0.8015160322189331, + "std": 0.004969652328381455, + "n": 5, + "ci95": 0.0061696491351807365 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8035555481910706, + "std": 0.004820872910813597, + "n": 5, + "ci95": 0.00598494470431179 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5038792252540588, + "std": 0.011424608498610758, + "n": 5, + "ci95": 0.014183250916908426 + }, + "covertype_test_accuracy": { + "mean": 0.8056249976158142, + "std": 0.005694022099214678, + "n": 5, + "ci95": 0.007068928810068535 + }, + "covertype_test_precision": { + "mean": 0.8033485531806945, + "std": 0.005531617591622531, + "n": 5, + "ci95": 0.006867309307614995 + }, + "covertype_test_recall": { + "mean": 0.8056249976158142, + "std": 0.005694022099214678, + "n": 5, + "ci95": 0.007068928810068535 + }, + "covertype_test_f1-score": { + "mean": 0.8033207774162292, + "std": 0.005687921466493425, + "n": 5, + "ci95": 0.007061355088426523 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8056249976158142, + "std": 0.005694022099214678, + "n": 5, + "ci95": 0.007068928810068535 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.47288283705711365, + "std": 0.01983292759348014, + "n": 5, + "ci95": 0.02462188428683673 + }, + "covertype_test_accuracy": { + "mean": 0.8154000043869019, + "std": 0.005594644438792302, + "n": 5, + "ci95": 0.006945554928724832 + }, + "covertype_test_precision": { + "mean": 0.813850712776184, + "std": 0.005192034701660728, + "n": 5, + "ci95": 0.006445729055127321 + }, + "covertype_test_recall": { + "mean": 0.8154000043869019, + "std": 0.005594644438792302, + "n": 5, + "ci95": 0.006945554928724832 + }, + "covertype_test_f1-score": { + "mean": 0.8135379791259766, + "std": 0.00545191525850542, + "n": 5, + "ci95": 0.006768361655325601 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8154000043869019, + "std": 0.005594644438792302, + "n": 5, + "ci95": 0.006945554928724832 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..e25afdefa0a3f595fa8c0b65e56b30dd84466384 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp7oudkwcp", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp7oudkwcp/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5912415981292725, + "lr": 0.0, + "covertype_val_accuracy": 0.7317317128181458, + "covertype_val_precision": 0.7246288657188416, + "covertype_val_recall": 0.7317317128181458, + "covertype_val_f1-score": 0.7261075377464294, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7317317128181458 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5808257460594177, + "lr": 0.0, + "covertype_test_accuracy": 0.7404999732971191, + "covertype_test_precision": 0.7380586266517639, + "covertype_test_recall": 0.7404999732971191, + "covertype_test_f1-score": 0.7348502278327942, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7404999732971191 + }, + "5": { + "covertype_test_loss": 0.5609966516494751, + "covertype_test_accuracy": 0.7526316046714783, + "covertype_test_precision": 0.7508419156074524, + "covertype_test_recall": 0.7526316046714783, + "covertype_test_f1-score": 0.7480321526527405, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7526316046714783 + }, + "10": { + "covertype_test_loss": 0.5455291271209717, + "covertype_test_accuracy": 0.7583333253860474, + "covertype_test_precision": 0.7555139660835266, + "covertype_test_recall": 0.7583333253860474, + "covertype_test_f1-score": 0.7529147267341614, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7583333253860474 + }, + "20": { + "covertype_test_loss": 0.5229489803314209, + "covertype_test_accuracy": 0.7674999833106995, + "covertype_test_precision": 0.7666723728179932, + "covertype_test_recall": 0.7674999833106995, + "covertype_test_f1-score": 0.761574923992157, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7674999833106995 + }, + "50": { + "covertype_test_loss": 0.4907130300998688, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.774392306804657, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.7733133435249329, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7760000228881836 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6118836402893066, + "lr": 0.0, + "covertype_val_accuracy": 0.7317317128181458, + "covertype_val_precision": 0.7247807383537292, + "covertype_val_recall": 0.7317317128181458, + "covertype_val_f1-score": 0.7261859774589539, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7317317128181458 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5888674855232239, + "lr": 0.0, + "covertype_test_accuracy": 0.7544999718666077, + "covertype_test_precision": 0.7541519999504089, + "covertype_test_recall": 0.7544999718666077, + "covertype_test_f1-score": 0.7512643337249756, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7544999718666077 + }, + "5": { + "covertype_test_loss": 0.5722110867500305, + "covertype_test_accuracy": 0.7626315951347351, + "covertype_test_precision": 0.76287442445755, + "covertype_test_recall": 0.7626315951347351, + "covertype_test_f1-score": 0.7600531578063965, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7626315951347351 + }, + "10": { + "covertype_test_loss": 0.5494257807731628, + "covertype_test_accuracy": 0.7711111307144165, + "covertype_test_precision": 0.7695570588111877, + "covertype_test_recall": 0.7711111307144165, + "covertype_test_f1-score": 0.7678031921386719, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7711111307144165 + }, + "20": { + "covertype_test_loss": 0.5327519178390503, + "covertype_test_accuracy": 0.7737500071525574, + "covertype_test_precision": 0.7724177241325378, + "covertype_test_recall": 0.7737500071525574, + "covertype_test_f1-score": 0.7698925733566284, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7737500071525574 + }, + "50": { + "covertype_test_loss": 0.504953145980835, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7794359922409058, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7788446545600891, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5762969255447388, + "lr": 0.0, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.7580543756484985, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.7542113065719604, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5598459243774414, + "lr": 0.0, + "covertype_test_accuracy": 0.7605000138282776, + "covertype_test_precision": 0.760956346988678, + "covertype_test_recall": 0.7605000138282776, + "covertype_test_f1-score": 0.7582971453666687, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7605000138282776 + }, + "5": { + "covertype_test_loss": 0.5390356183052063, + "covertype_test_accuracy": 0.7684210538864136, + "covertype_test_precision": 0.7683897018432617, + "covertype_test_recall": 0.7684210538864136, + "covertype_test_f1-score": 0.7664608359336853, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7684210538864136 + }, + "10": { + "covertype_test_loss": 0.5175792574882507, + "covertype_test_accuracy": 0.7755555510520935, + "covertype_test_precision": 0.7747003436088562, + "covertype_test_recall": 0.7755555510520935, + "covertype_test_f1-score": 0.7732344269752502, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7755555510520935 + }, + "20": { + "covertype_test_loss": 0.5024332404136658, + "covertype_test_accuracy": 0.7818750143051147, + "covertype_test_precision": 0.7806446552276611, + "covertype_test_recall": 0.7818750143051147, + "covertype_test_f1-score": 0.7791116833686829, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7818750143051147 + }, + "50": { + "covertype_test_loss": 0.4702584445476532, + "covertype_test_accuracy": 0.7889999747276306, + "covertype_test_precision": 0.7865187525749207, + "covertype_test_recall": 0.7889999747276306, + "covertype_test_f1-score": 0.787182629108429, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7889999747276306 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5769358277320862, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7497856616973877, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7477813363075256, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5664366483688354, + "lr": 0.0, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7616814970970154, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7560362219810486, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7620000243186951 + }, + "5": { + "covertype_test_loss": 0.5474766492843628, + "covertype_test_accuracy": 0.7721052765846252, + "covertype_test_precision": 0.7709841132164001, + "covertype_test_recall": 0.7721052765846252, + "covertype_test_f1-score": 0.7679622173309326, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7721052765846252 + }, + "10": { + "covertype_test_loss": 0.5317983031272888, + "covertype_test_accuracy": 0.778333306312561, + "covertype_test_precision": 0.7768567204475403, + "covertype_test_recall": 0.778333306312561, + "covertype_test_f1-score": 0.7743189930915833, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.778333306312561 + }, + "20": { + "covertype_test_loss": 0.5185306668281555, + "covertype_test_accuracy": 0.7856249809265137, + "covertype_test_precision": 0.7835010290145874, + "covertype_test_recall": 0.7856249809265137, + "covertype_test_f1-score": 0.7812186479568481, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7856249809265137 + }, + "50": { + "covertype_test_loss": 0.4927004277706146, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.793701171875, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7927262783050537, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7950000166893005 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5863985419273376, + "lr": 0.0, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.7564394474029541, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.7543013095855713, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5678795576095581, + "lr": 0.0, + "covertype_test_accuracy": 0.7580000162124634, + "covertype_test_precision": 0.7560226917266846, + "covertype_test_recall": 0.7580000162124634, + "covertype_test_f1-score": 0.7540860772132874, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7580000162124634 + }, + "5": { + "covertype_test_loss": 0.549996554851532, + "covertype_test_accuracy": 0.7657894492149353, + "covertype_test_precision": 0.7639220356941223, + "covertype_test_recall": 0.7657894492149353, + "covertype_test_f1-score": 0.7622106671333313, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7657894492149353 + }, + "10": { + "covertype_test_loss": 0.5309346914291382, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7659600377082825, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7655529975891113, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7699999809265137 + }, + "20": { + "covertype_test_loss": 0.5153258442878723, + "covertype_test_accuracy": 0.7756249904632568, + "covertype_test_precision": 0.7721084952354431, + "covertype_test_recall": 0.7756249904632568, + "covertype_test_f1-score": 0.771041989326477, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7756249904632568 + }, + "50": { + "covertype_test_loss": 0.47423091530799866, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7898060083389282, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7891277074813843, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7910000085830688 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5727710723876953, + "std": 0.011780105892456661, + "n": 5, + "ci95": 0.014624588468023336 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7550999999046326, + "std": 0.008641489924521397, + "n": 5, + "ci95": 0.010728106780230322 + }, + "covertype_test_precision": { + "mean": 0.7541742324829102, + "std": 0.009558845985810917, + "n": 5, + "ci95": 0.011866972168834075 + }, + "covertype_test_recall": { + "mean": 0.7550999999046326, + "std": 0.008641489924521397, + "n": 5, + "ci95": 0.010728106780230322 + }, + "covertype_test_f1-score": { + "mean": 0.7509068012237549, + "std": 0.009340467309273261, + "n": 5, + "ci95": 0.011595862698027037 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7550999999046326, + "std": 0.008641489924521397, + "n": 5, + "ci95": 0.010728106780230322 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5539433121681213, + "std": 0.012875316932927297, + "n": 5, + "ci95": 0.015984254577881916 + }, + "covertype_test_accuracy": { + "mean": 0.7643157958984375, + "std": 0.007400298363008159, + "n": 5, + "ci95": 0.009187210971412688 + }, + "covertype_test_precision": { + "mean": 0.7634024381637573, + "std": 0.007756772888381472, + "n": 5, + "ci95": 0.009629761597061729 + }, + "covertype_test_recall": { + "mean": 0.7643157958984375, + "std": 0.007400298363008159, + "n": 5, + "ci95": 0.009187210971412688 + }, + "covertype_test_f1-score": { + "mean": 0.7609438061714172, + "std": 0.007886772159683825, + "n": 5, + "ci95": 0.009791151134753174 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7643157958984375, + "std": 0.007400298363008159, + "n": 5, + "ci95": 0.009187210971412688 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5350534319877625, + "std": 0.012739812206819162, + "n": 5, + "ci95": 0.01581603021106424 + }, + "covertype_test_accuracy": { + "mean": 0.7706666588783264, + "std": 0.007671894800241009, + "n": 5, + "ci95": 0.009524388426367079 + }, + "covertype_test_precision": { + "mean": 0.7685176253318786, + "std": 0.008433317006048931, + "n": 5, + "ci95": 0.010469667400258646 + }, + "covertype_test_recall": { + "mean": 0.7706666588783264, + "std": 0.007671894800241009, + "n": 5, + "ci95": 0.009524388426367079 + }, + "covertype_test_f1-score": { + "mean": 0.7667648673057557, + "std": 0.008562901950083107, + "n": 5, + "ci95": 0.010630542565172502 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7706666588783264, + "std": 0.007671894800241009, + "n": 5, + "ci95": 0.009524388426367079 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.518398129940033, + "std": 0.011080113594623775, + "n": 5, + "ci95": 0.01375557257121826 + }, + "covertype_test_accuracy": { + "mean": 0.7768749952316284, + "std": 0.007084866818239626, + "n": 5, + "ci95": 0.008795613767263052 + }, + "covertype_test_precision": { + "mean": 0.7750688552856445, + "std": 0.006864478214617714, + "n": 5, + "ci95": 0.008522009042446725 + }, + "covertype_test_recall": { + "mean": 0.7768749952316284, + "std": 0.007084866818239626, + "n": 5, + "ci95": 0.008795613767263052 + }, + "covertype_test_f1-score": { + "mean": 0.7725679636001587, + "std": 0.007873814807802111, + "n": 5, + "ci95": 0.009775065036662426 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7768749952316284, + "std": 0.007084866818239626, + "n": 5, + "ci95": 0.008795613767263052 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.48657119274139404, + "std": 0.014239090072842055, + "n": 5, + "ci95": 0.017677331118710705 + }, + "covertype_test_accuracy": { + "mean": 0.7861999988555908, + "std": 0.007918335091010436, + "n": 5, + "ci95": 0.009830335407433754 + }, + "covertype_test_precision": { + "mean": 0.7847708463668823, + "std": 0.007815585356643145, + "n": 5, + "ci95": 0.009702775214508616 + }, + "covertype_test_recall": { + "mean": 0.7861999988555908, + "std": 0.007918335091010436, + "n": 5, + "ci95": 0.009830335407433754 + }, + "covertype_test_f1-score": { + "mean": 0.7842389225959778, + "std": 0.007954043599017345, + "n": 5, + "ci95": 0.009874666268223604 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7861999988555908, + "std": 0.007918335091010436, + "n": 5, + "ci95": 0.009830335407433754 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..222971d342e9969f2be2630bc7da6af266831bb7 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp0du5uh1_", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp0du5uh1_/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.7203963398933411, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6946946978569031, + "covertype_val_precision": 0.7130241990089417, + "covertype_val_recall": 0.6946946978569031, + "covertype_val_f1-score": 0.6898654699325562, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6946946978569031 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7010678648948669, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6980000138282776, + "covertype_test_precision": 0.7064462900161743, + "covertype_test_recall": 0.6980000138282776, + "covertype_test_f1-score": 0.6919490694999695, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6980000138282776 + }, + "5": { + "covertype_test_loss": 0.6803466081619263, + "covertype_test_accuracy": 0.7068421244621277, + "covertype_test_precision": 0.7154754996299744, + "covertype_test_recall": 0.7068421244621277, + "covertype_test_f1-score": 0.7015422582626343, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7068421244621277 + }, + "10": { + "covertype_test_loss": 0.6614581942558289, + "covertype_test_accuracy": 0.7133333086967468, + "covertype_test_precision": 0.7217990159988403, + "covertype_test_recall": 0.7133333086967468, + "covertype_test_f1-score": 0.7081410884857178, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7133333086967468 + }, + "20": { + "covertype_test_loss": 0.6476789116859436, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.7251290678977966, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7140541076660156, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7200000286102295 + }, + "50": { + "covertype_test_loss": 0.6017202138900757, + "covertype_test_accuracy": 0.734000027179718, + "covertype_test_precision": 0.7413507699966431, + "covertype_test_recall": 0.734000027179718, + "covertype_test_f1-score": 0.7306212782859802, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.734000027179718 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6403138637542725, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7377377152442932, + "covertype_val_precision": 0.7306504249572754, + "covertype_val_recall": 0.7377377152442932, + "covertype_val_f1-score": 0.729992687702179, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7377377152442932 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6363108158111572, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.7114759087562561, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7095126509666443, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7200000286102295 + }, + "5": { + "covertype_test_loss": 0.6044306755065918, + "covertype_test_accuracy": 0.7321052551269531, + "covertype_test_precision": 0.7216827273368835, + "covertype_test_recall": 0.7321052551269531, + "covertype_test_f1-score": 0.7240476608276367, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7321052551269531 + }, + "10": { + "covertype_test_loss": 0.5804914832115173, + "covertype_test_accuracy": 0.7394444346427917, + "covertype_test_precision": 0.7289824485778809, + "covertype_test_recall": 0.7394444346427917, + "covertype_test_f1-score": 0.7323365211486816, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7394444346427917 + }, + "20": { + "covertype_test_loss": 0.5663055777549744, + "covertype_test_accuracy": 0.7431250214576721, + "covertype_test_precision": 0.7307547330856323, + "covertype_test_recall": 0.7431250214576721, + "covertype_test_f1-score": 0.7344343066215515, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7431250214576721 + }, + "50": { + "covertype_test_loss": 0.5195918083190918, + "covertype_test_accuracy": 0.7609999775886536, + "covertype_test_precision": 0.7481005787849426, + "covertype_test_recall": 0.7609999775886536, + "covertype_test_f1-score": 0.751915454864502, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7609999775886536 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6397638916969299, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7357357144355774, + "covertype_val_precision": 0.7009667754173279, + "covertype_val_recall": 0.7357357144355774, + "covertype_val_f1-score": 0.7154326438903809, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7357357144355774 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.643039345741272, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7260000109672546, + "covertype_test_precision": 0.7143128514289856, + "covertype_test_recall": 0.7260000109672546, + "covertype_test_f1-score": 0.7084657549858093, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7260000109672546 + }, + "5": { + "covertype_test_loss": 0.624873161315918, + "covertype_test_accuracy": 0.7342105507850647, + "covertype_test_precision": 0.7220801711082458, + "covertype_test_recall": 0.7342105507850647, + "covertype_test_f1-score": 0.7209827899932861, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7342105507850647 + }, + "10": { + "covertype_test_loss": 0.6096422672271729, + "covertype_test_accuracy": 0.7416666746139526, + "covertype_test_precision": 0.7276604175567627, + "covertype_test_recall": 0.7416666746139526, + "covertype_test_f1-score": 0.7307618260383606, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7416666746139526 + }, + "20": { + "covertype_test_loss": 0.5949904322624207, + "covertype_test_accuracy": 0.746874988079071, + "covertype_test_precision": 0.7329156994819641, + "covertype_test_recall": 0.746874988079071, + "covertype_test_f1-score": 0.7366010546684265, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.746874988079071 + }, + "50": { + "covertype_test_loss": 0.5394328832626343, + "covertype_test_accuracy": 0.765999972820282, + "covertype_test_precision": 0.7527598738670349, + "covertype_test_recall": 0.765999972820282, + "covertype_test_f1-score": 0.7576849460601807, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.765999972820282 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6386080980300903, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7317317128181458, + "covertype_val_precision": 0.7366568446159363, + "covertype_val_recall": 0.7317317128181458, + "covertype_val_f1-score": 0.7233251929283142, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7317317128181458 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6164740920066833, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7304999828338623, + "covertype_test_precision": 0.7322565913200378, + "covertype_test_recall": 0.7304999828338623, + "covertype_test_f1-score": 0.7218170166015625, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7304999828338623 + }, + "5": { + "covertype_test_loss": 0.5995680093765259, + "covertype_test_accuracy": 0.7368420958518982, + "covertype_test_precision": 0.7366061210632324, + "covertype_test_recall": 0.7368420958518982, + "covertype_test_f1-score": 0.7310260534286499, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7368420958518982 + }, + "10": { + "covertype_test_loss": 0.5846419334411621, + "covertype_test_accuracy": 0.7433333396911621, + "covertype_test_precision": 0.7442802786827087, + "covertype_test_recall": 0.7433333396911621, + "covertype_test_f1-score": 0.7392455339431763, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7433333396911621 + }, + "20": { + "covertype_test_loss": 0.5718075037002563, + "covertype_test_accuracy": 0.7506250143051147, + "covertype_test_precision": 0.750745415687561, + "covertype_test_recall": 0.7506250143051147, + "covertype_test_f1-score": 0.7463371157646179, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7506250143051147 + }, + "50": { + "covertype_test_loss": 0.5482191443443298, + "covertype_test_accuracy": 0.7630000114440918, + "covertype_test_precision": 0.7708831429481506, + "covertype_test_recall": 0.7630000114440918, + "covertype_test_f1-score": 0.7590942978858948, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7630000114440918 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6466132998466492, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7417417168617249, + "covertype_val_precision": 0.7362890243530273, + "covertype_val_recall": 0.7417417168617249, + "covertype_val_f1-score": 0.7237012386322021, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7417417168617249 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6467434167861938, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7129999995231628, + "covertype_test_precision": 0.6943984031677246, + "covertype_test_recall": 0.7129999995231628, + "covertype_test_f1-score": 0.6922091245651245, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7129999995231628 + }, + "5": { + "covertype_test_loss": 0.6288483142852783, + "covertype_test_accuracy": 0.7215789556503296, + "covertype_test_precision": 0.7051606178283691, + "covertype_test_recall": 0.7215789556503296, + "covertype_test_f1-score": 0.7051733136177063, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7215789556503296 + }, + "10": { + "covertype_test_loss": 0.6087942123413086, + "covertype_test_accuracy": 0.726111114025116, + "covertype_test_precision": 0.7070927023887634, + "covertype_test_recall": 0.726111114025116, + "covertype_test_f1-score": 0.7123498320579529, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.726111114025116 + }, + "20": { + "covertype_test_loss": 0.5973197817802429, + "covertype_test_accuracy": 0.7281249761581421, + "covertype_test_precision": 0.7116031050682068, + "covertype_test_recall": 0.7281249761581421, + "covertype_test_f1-score": 0.7141785621643066, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7281249761581421 + }, + "50": { + "covertype_test_loss": 0.5532165169715881, + "covertype_test_accuracy": 0.7480000257492065, + "covertype_test_precision": 0.7421478629112244, + "covertype_test_recall": 0.7480000257492065, + "covertype_test_f1-score": 0.7348588705062866, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7480000257492065 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6487271070480347, + "std": 0.03150500696339773, + "n": 5, + "ci95": 0.039112361614418015 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7175000071525574, + "std": 0.012727915659729737, + "n": 5, + "ci95": 0.01580126106493248 + }, + "covertype_test_precision": { + "mean": 0.7117780089378357, + "std": 0.013751063147474908, + "n": 5, + "ci95": 0.01707146280055072 + }, + "covertype_test_recall": { + "mean": 0.7175000071525574, + "std": 0.012727915659729737, + "n": 5, + "ci95": 0.01580126106493248 + }, + "covertype_test_f1-score": { + "mean": 0.704790723323822, + "std": 0.012736775704792933, + "n": 5, + "ci95": 0.015812260500255075 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7175000071525574, + "std": 0.012727915659729737, + "n": 5, + "ci95": 0.01580126106493248 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6276133537292481, + "std": 0.03206948633255834, + "n": 5, + "ci95": 0.03981314296120961 + }, + "covertype_test_accuracy": { + "mean": 0.7263157963752747, + "std": 0.012331965763152259, + "n": 5, + "ci95": 0.01530970314989625 + }, + "covertype_test_precision": { + "mean": 0.720201027393341, + "std": 0.011438949325291176, + "n": 5, + "ci95": 0.01420105455045867 + }, + "covertype_test_recall": { + "mean": 0.7263157963752747, + "std": 0.012331965763152259, + "n": 5, + "ci95": 0.01530970314989625 + }, + "covertype_test_f1-score": { + "mean": 0.7165544152259826, + "std": 0.012649919718178216, + "n": 5, + "ci95": 0.015704431837947567 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7263157963752747, + "std": 0.012331965763152259, + "n": 5, + "ci95": 0.01530970314989625 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.609005618095398, + "std": 0.0322427037424083, + "n": 5, + "ci95": 0.04002818630272784 + }, + "covertype_test_accuracy": { + "mean": 0.7327777743339539, + "std": 0.012819988996304281, + "n": 5, + "ci95": 0.015915566884300604 + }, + "covertype_test_precision": { + "mean": 0.7259629726409912, + "std": 0.013425236395603066, + "n": 5, + "ci95": 0.01666696031122677 + }, + "covertype_test_recall": { + "mean": 0.7327777743339539, + "std": 0.012819988996304281, + "n": 5, + "ci95": 0.015915566884300604 + }, + "covertype_test_f1-score": { + "mean": 0.7245669603347779, + "std": 0.01353948345430584, + "n": 5, + "ci95": 0.016808794029230956 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7327777743339539, + "std": 0.012819988996304281, + "n": 5, + "ci95": 0.015915566884300604 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5956204414367676, + "std": 0.032170585284433936, + "n": 5, + "ci95": 0.03993865376554591 + }, + "covertype_test_accuracy": { + "mean": 0.7377500057220459, + "std": 0.013092219299686883, + "n": 5, + "ci95": 0.016253531261857267 + }, + "covertype_test_precision": { + "mean": 0.7302296042442322, + "std": 0.014154074763829004, + "n": 5, + "ci95": 0.01757178759311355 + }, + "covertype_test_recall": { + "mean": 0.7377500057220459, + "std": 0.013092219299686883, + "n": 5, + "ci95": 0.016253531261857267 + }, + "covertype_test_f1-score": { + "mean": 0.7291210293769836, + "std": 0.014412362576891415, + "n": 5, + "ci95": 0.01789244285774596 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7377500057220459, + "std": 0.013092219299686883, + "n": 5, + "ci95": 0.016253531261857267 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.552436113357544, + "std": 0.03039385953247783, + "n": 5, + "ci95": 0.03773291103452887 + }, + "covertype_test_accuracy": { + "mean": 0.7544000029563904, + "std": 0.013315384259565504, + "n": 5, + "ci95": 0.016530582735630323 + }, + "covertype_test_precision": { + "mean": 0.7510484457015991, + "std": 0.012023928316828627, + "n": 5, + "ci95": 0.01492728545973706 + }, + "covertype_test_recall": { + "mean": 0.7544000029563904, + "std": 0.013315384259565504, + "n": 5, + "ci95": 0.016530582735630323 + }, + "covertype_test_f1-score": { + "mean": 0.7468349695205688, + "std": 0.013230033874289575, + "n": 5, + "ci95": 0.016424623224600206 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7544000029563904, + "std": 0.013315384259565504, + "n": 5, + "ci95": 0.016530582735630323 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..7c1934e66d87b262b479ab8ef7afaa903643a9ff --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpecb3zoi7", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpecb3zoi7/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5730233788490295, + "lr": 0.0, + "covertype_val_accuracy": 0.782782793045044, + "covertype_val_precision": 0.7781936526298523, + "covertype_val_recall": 0.782782793045044, + "covertype_val_f1-score": 0.779575765132904, + "covertype_val_support": 999.0, + "covertype_val_score": 0.782782793045044 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.555957555770874, + "lr": 0.0, + "covertype_test_accuracy": 0.784500002861023, + "covertype_test_precision": 0.7854914665222168, + "covertype_test_recall": 0.784500002861023, + "covertype_test_f1-score": 0.7844268679618835, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.784500002861023 + }, + "5": { + "covertype_test_loss": 0.5352539420127869, + "covertype_test_accuracy": 0.7921052575111389, + "covertype_test_precision": 0.7938467860221863, + "covertype_test_recall": 0.7921052575111389, + "covertype_test_f1-score": 0.7920166254043579, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7921052575111389 + }, + "10": { + "covertype_test_loss": 0.49965861439704895, + "covertype_test_accuracy": 0.7994444370269775, + "covertype_test_precision": 0.799216628074646, + "covertype_test_recall": 0.7994444370269775, + "covertype_test_f1-score": 0.7988462448120117, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7994444370269775 + }, + "20": { + "covertype_test_loss": 0.48807403445243835, + "covertype_test_accuracy": 0.8012499809265137, + "covertype_test_precision": 0.800201952457428, + "covertype_test_recall": 0.8012499809265137, + "covertype_test_f1-score": 0.8002201318740845, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8012499809265137 + }, + "50": { + "covertype_test_loss": 0.45795977115631104, + "covertype_test_accuracy": 0.8040000200271606, + "covertype_test_precision": 0.8042902946472168, + "covertype_test_recall": 0.8040000200271606, + "covertype_test_f1-score": 0.8039109110832214, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8040000200271606 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6075770258903503, + "lr": 0.0, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7470363974571228, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7491669654846191, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.555845320224762, + "lr": 0.0, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7861422300338745, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7835671901702881, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7850000262260437 + }, + "5": { + "covertype_test_loss": 0.5386760830879211, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7911975979804993, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7891621589660645, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7900000214576721 + }, + "10": { + "covertype_test_loss": 0.5096185207366943, + "covertype_test_accuracy": 0.7961111068725586, + "covertype_test_precision": 0.7950175404548645, + "covertype_test_recall": 0.7961111068725586, + "covertype_test_f1-score": 0.7944034934043884, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7961111068725586 + }, + "20": { + "covertype_test_loss": 0.5044860243797302, + "covertype_test_accuracy": 0.7962499856948853, + "covertype_test_precision": 0.7958294749259949, + "covertype_test_recall": 0.7962499856948853, + "covertype_test_f1-score": 0.7951233983039856, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7962499856948853 + }, + "50": { + "covertype_test_loss": 0.46766024827957153, + "covertype_test_accuracy": 0.8080000281333923, + "covertype_test_precision": 0.8075894713401794, + "covertype_test_recall": 0.8080000281333923, + "covertype_test_f1-score": 0.8059840798377991, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8080000281333923 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5988559126853943, + "lr": 0.0, + "covertype_val_accuracy": 0.7667667865753174, + "covertype_val_precision": 0.7668482661247253, + "covertype_val_recall": 0.7667667865753174, + "covertype_val_f1-score": 0.7637086510658264, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7667667865753174 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5677821040153503, + "lr": 0.0, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7753030061721802, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7693984508514404, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7699999809265137 + }, + "5": { + "covertype_test_loss": 0.5508924722671509, + "covertype_test_accuracy": 0.7752631306648254, + "covertype_test_precision": 0.7818958163261414, + "covertype_test_recall": 0.7752631306648254, + "covertype_test_f1-score": 0.7753964066505432, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7752631306648254 + }, + "10": { + "covertype_test_loss": 0.5255367755889893, + "covertype_test_accuracy": 0.7794444561004639, + "covertype_test_precision": 0.7851626873016357, + "covertype_test_recall": 0.7794444561004639, + "covertype_test_f1-score": 0.7797964811325073, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7794444561004639 + }, + "20": { + "covertype_test_loss": 0.5202336311340332, + "covertype_test_accuracy": 0.7768750190734863, + "covertype_test_precision": 0.7810730338096619, + "covertype_test_recall": 0.7768750190734863, + "covertype_test_f1-score": 0.7769145965576172, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7768750190734863 + }, + "50": { + "covertype_test_loss": 0.48542115092277527, + "covertype_test_accuracy": 0.7929999828338623, + "covertype_test_precision": 0.7953677773475647, + "covertype_test_recall": 0.7929999828338623, + "covertype_test_f1-score": 0.7914665341377258, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7929999828338623 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.584861695766449, + "lr": 0.0, + "covertype_val_accuracy": 0.7767767906188965, + "covertype_val_precision": 0.7717776894569397, + "covertype_val_recall": 0.7767767906188965, + "covertype_val_f1-score": 0.773371696472168, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7767767906188965 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5756209492683411, + "lr": 0.0, + "covertype_test_accuracy": 0.781499981880188, + "covertype_test_precision": 0.7801694869995117, + "covertype_test_recall": 0.781499981880188, + "covertype_test_f1-score": 0.7798671126365662, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.781499981880188 + }, + "5": { + "covertype_test_loss": 0.5574110746383667, + "covertype_test_accuracy": 0.7878947257995605, + "covertype_test_precision": 0.7847036719322205, + "covertype_test_recall": 0.7878947257995605, + "covertype_test_f1-score": 0.7859400510787964, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7878947257995605 + }, + "10": { + "covertype_test_loss": 0.5314658880233765, + "covertype_test_accuracy": 0.7938888669013977, + "covertype_test_precision": 0.7917311787605286, + "covertype_test_recall": 0.7938888669013977, + "covertype_test_f1-score": 0.7915877103805542, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7938888669013977 + }, + "20": { + "covertype_test_loss": 0.5178995728492737, + "covertype_test_accuracy": 0.7975000143051147, + "covertype_test_precision": 0.7945232391357422, + "covertype_test_recall": 0.7975000143051147, + "covertype_test_f1-score": 0.7949557304382324, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7975000143051147 + }, + "50": { + "covertype_test_loss": 0.4903261363506317, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.8012178540229797, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7993691563606262, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.800000011920929 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.614602267742157, + "lr": 0.0, + "covertype_val_accuracy": 0.7507507801055908, + "covertype_val_precision": 0.7466615438461304, + "covertype_val_recall": 0.7507507801055908, + "covertype_val_f1-score": 0.7483058571815491, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7507507801055908 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.588387668132782, + "lr": 0.0, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7810855507850647, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7800142765045166, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7799999713897705 + }, + "5": { + "covertype_test_loss": 0.5635682940483093, + "covertype_test_accuracy": 0.7836841940879822, + "covertype_test_precision": 0.7845149040222168, + "covertype_test_recall": 0.7836841940879822, + "covertype_test_f1-score": 0.783822238445282, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7836841940879822 + }, + "10": { + "covertype_test_loss": 0.5372669696807861, + "covertype_test_accuracy": 0.7894444465637207, + "covertype_test_precision": 0.7880826592445374, + "covertype_test_recall": 0.7894444465637207, + "covertype_test_f1-score": 0.7886422872543335, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7894444465637207 + }, + "20": { + "covertype_test_loss": 0.5336124300956726, + "covertype_test_accuracy": 0.7912499904632568, + "covertype_test_precision": 0.7903233170509338, + "covertype_test_recall": 0.7912499904632568, + "covertype_test_f1-score": 0.7904065847396851, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7912499904632568 + }, + "50": { + "covertype_test_loss": 0.5039328932762146, + "covertype_test_accuracy": 0.8009999990463257, + "covertype_test_precision": 0.8030502200126648, + "covertype_test_recall": 0.8009999990463257, + "covertype_test_f1-score": 0.8009845018386841, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8009999990463257 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5687187194824219, + "std": 0.01381988850607463, + "n": 5, + "ci95": 0.017156907070311454 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7801999926567078, + "std": 0.006068373542565907, + "n": 5, + "ci95": 0.00753367300264222 + }, + "covertype_test_precision": { + "mean": 0.7816383481025696, + "std": 0.004408264091346695, + "n": 5, + "ci95": 0.005472705320551721 + }, + "covertype_test_recall": { + "mean": 0.7801999926567078, + "std": 0.006068373542565907, + "n": 5, + "ci95": 0.00753367300264222 + }, + "covertype_test_f1-score": { + "mean": 0.7794547796249389, + "std": 0.005984279125243661, + "n": 5, + "ci95": 0.0074292727317937565 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7801999926567078, + "std": 0.006068373542565907, + "n": 5, + "ci95": 0.00753367300264222 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5491603732109069, + "std": 0.012062043691820703, + "n": 5, + "ci95": 0.014974604361506902 + }, + "covertype_test_accuracy": { + "mean": 0.7857894659042358, + "std": 0.006657439896649992, + "n": 5, + "ci95": 0.008264978229223854 + }, + "covertype_test_precision": { + "mean": 0.7872317552566528, + "std": 0.005043096041488734, + "n": 5, + "ci95": 0.006260826930148209 + }, + "covertype_test_recall": { + "mean": 0.7857894659042358, + "std": 0.006657439896649992, + "n": 5, + "ci95": 0.008264978229223854 + }, + "covertype_test_f1-score": { + "mean": 0.7852674961090088, + "std": 0.006338348602247394, + "n": 5, + "ci95": 0.007868837574210294 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7857894659042358, + "std": 0.006657439896649992, + "n": 5, + "ci95": 0.008264978229223854 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5207093536853791, + "std": 0.015646899698759882, + "n": 5, + "ci95": 0.01942507741304189 + }, + "covertype_test_accuracy": { + "mean": 0.7916666626930237, + "std": 0.007737984681349131, + "n": 5, + "ci95": 0.009606436696724799 + }, + "covertype_test_precision": { + "mean": 0.7918421387672424, + "std": 0.005550390497723712, + "n": 5, + "ci95": 0.006890615212382322 + }, + "covertype_test_recall": { + "mean": 0.7916666626930237, + "std": 0.007737984681349131, + "n": 5, + "ci95": 0.009606436696724799 + }, + "covertype_test_f1-score": { + "mean": 0.7906552433967591, + "std": 0.007141009860711209, + "n": 5, + "ci95": 0.008865313386178653 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7916666626930237, + "std": 0.007737984681349131, + "n": 5, + "ci95": 0.009606436696724799 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5128611385822296, + "std": 0.01728365293284117, + "n": 5, + "ci95": 0.021457049170398753 + }, + "covertype_test_accuracy": { + "mean": 0.7926249980926514, + "std": 0.00950327748933995, + "n": 5, + "ci95": 0.011797985828635293 + }, + "covertype_test_precision": { + "mean": 0.7923902034759521, + "std": 0.007241412157378723, + "n": 5, + "ci95": 0.008989959317498086 + }, + "covertype_test_recall": { + "mean": 0.7926249980926514, + "std": 0.00950327748933995, + "n": 5, + "ci95": 0.011797985828635293 + }, + "covertype_test_f1-score": { + "mean": 0.7915240883827209, + "std": 0.008874661082122055, + "n": 5, + "ci95": 0.011017580597669078 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7926249980926514, + "std": 0.00950327748933995, + "n": 5, + "ci95": 0.011797985828635293 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.48106003999710084, + "std": 0.01831136317875291, + "n": 5, + "ci95": 0.02273291541031554 + }, + "covertype_test_accuracy": { + "mean": 0.801200008392334, + "std": 0.005540774947230123, + "n": 5, + "ci95": 0.00687867784355508 + }, + "covertype_test_precision": { + "mean": 0.8023031234741211, + "std": 0.004520213267833379, + "n": 5, + "ci95": 0.005611686298345838 + }, + "covertype_test_recall": { + "mean": 0.801200008392334, + "std": 0.005540774947230123, + "n": 5, + "ci95": 0.00687867784355508 + }, + "covertype_test_f1-score": { + "mean": 0.8003430366516113, + "std": 0.0055835318901789974, + "n": 5, + "ci95": 0.006931759089215056 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.801200008392334, + "std": 0.005540774947230123, + "n": 5, + "ci95": 0.00687867784355508 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..3fcc0f3406f4577921ee36c0409f8284fe7043b2 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:92b42839e4a4a3a1975da906da909b3430eaa072bde4b1c34af4bfe385ee06f6 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..de47b167cd7207887b514b1da6df937930986f5e --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:0fee9b923b33ebe406be7425c7037b7a02f3e7409b280bee5ef372aa06af62c1 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..101d728723ed81c1548887ebfea40f988cce5b0c --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e48a7648ea6a3c6653f6abad016eddb4172e51a2289980af5368f634ed8ae9b4 +size 11507024 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..45e4b309d2bed100a56ada5d4ac1b5722ef45213 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue0-gpu2-kl0/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_config.yaml @@ -0,0 +1,130 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 0 +vtjepa_kl_y_end_weight: 0.0 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..d803f06c426bcc58caca0d160b469a0ca98ac47d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "e1fb426b1a3c5b791bc2d258e1863928c0e505ccf36637c0e5691751ed46f776", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "4deb20016ca09ec340f89aa2d63521c81d4f894ca2317e43d5c4eb41b014bcb3", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 1e-08, + "start_epoch": 1, + "annealing_epochs": 20 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "1e-08", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..b3a4150566ae7a432cadab0c193773de5e51eeda --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpqwdsw9rf", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpqwdsw9rf/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.624549388885498, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7437437176704407, + "covertype_val_precision": 0.7409075498580933, + "covertype_val_recall": 0.7437437176704407, + "covertype_val_f1-score": 0.7404190897941589, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7437437176704407 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5974035859107971, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7580000162124634, + "covertype_test_precision": 0.7595743536949158, + "covertype_test_recall": 0.7580000162124634, + "covertype_test_f1-score": 0.7569433450698853, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7580000162124634 + }, + "5": { + "covertype_test_loss": 0.5764026641845703, + "covertype_test_accuracy": 0.7647368311882019, + "covertype_test_precision": 0.7664613723754883, + "covertype_test_recall": 0.7647368311882019, + "covertype_test_f1-score": 0.7637398838996887, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7647368311882019 + }, + "10": { + "covertype_test_loss": 0.5551688075065613, + "covertype_test_accuracy": 0.7683333158493042, + "covertype_test_precision": 0.768362283706665, + "covertype_test_recall": 0.7683333158493042, + "covertype_test_f1-score": 0.7666749954223633, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7683333158493042 + }, + "20": { + "covertype_test_loss": 0.529430091381073, + "covertype_test_accuracy": 0.7762500047683716, + "covertype_test_precision": 0.7773489952087402, + "covertype_test_recall": 0.7762500047683716, + "covertype_test_f1-score": 0.7750290632247925, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7762500047683716 + }, + "50": { + "covertype_test_loss": 0.5342009663581848, + "covertype_test_accuracy": 0.765999972820282, + "covertype_test_precision": 0.7674621939659119, + "covertype_test_recall": 0.765999972820282, + "covertype_test_f1-score": 0.7647064924240112, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.765999972820282 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6332592964172363, + "lr": 0.0, + "covertype_val_accuracy": 0.7617617845535278, + "covertype_val_precision": 0.7613129019737244, + "covertype_val_recall": 0.7617617845535278, + "covertype_val_f1-score": 0.7591469287872314, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7617617845535278 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6216718554496765, + "lr": 0.0, + "covertype_test_accuracy": 0.7639999985694885, + "covertype_test_precision": 0.7643885612487793, + "covertype_test_recall": 0.7639999985694885, + "covertype_test_f1-score": 0.762946367263794, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7639999985694885 + }, + "5": { + "covertype_test_loss": 0.5950175523757935, + "covertype_test_accuracy": 0.7726315855979919, + "covertype_test_precision": 0.7705481052398682, + "covertype_test_recall": 0.7726315855979919, + "covertype_test_f1-score": 0.7710630297660828, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7726315855979919 + }, + "10": { + "covertype_test_loss": 0.5777038335800171, + "covertype_test_accuracy": 0.773888885974884, + "covertype_test_precision": 0.7709178924560547, + "covertype_test_recall": 0.773888885974884, + "covertype_test_f1-score": 0.771976113319397, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.773888885974884 + }, + "20": { + "covertype_test_loss": 0.555191159248352, + "covertype_test_accuracy": 0.7806249856948853, + "covertype_test_precision": 0.7791399359703064, + "covertype_test_recall": 0.7806249856948853, + "covertype_test_f1-score": 0.7792465090751648, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7806249856948853 + }, + "50": { + "covertype_test_loss": 0.5526821613311768, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.775788426399231, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.7758883237838745, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.777999997138977 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6286348700523376, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7457457184791565, + "covertype_val_precision": 0.7444679141044617, + "covertype_val_recall": 0.7457457184791565, + "covertype_val_f1-score": 0.7432175278663635, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7457457184791565 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5956538319587708, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7531260848045349, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7507104873657227, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7519999742507935 + }, + "5": { + "covertype_test_loss": 0.5681291222572327, + "covertype_test_accuracy": 0.7594736814498901, + "covertype_test_precision": 0.7595838904380798, + "covertype_test_recall": 0.7594736814498901, + "covertype_test_f1-score": 0.7579296827316284, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7594736814498901 + }, + "10": { + "covertype_test_loss": 0.5567857623100281, + "covertype_test_accuracy": 0.7638888955116272, + "covertype_test_precision": 0.7619584798812866, + "covertype_test_recall": 0.7638888955116272, + "covertype_test_f1-score": 0.7614226341247559, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7638888955116272 + }, + "20": { + "covertype_test_loss": 0.5313211679458618, + "covertype_test_accuracy": 0.7718750238418579, + "covertype_test_precision": 0.7715761065483093, + "covertype_test_recall": 0.7718750238418579, + "covertype_test_f1-score": 0.7703927159309387, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7718750238418579 + }, + "50": { + "covertype_test_loss": 0.5485426187515259, + "covertype_test_accuracy": 0.7570000290870667, + "covertype_test_precision": 0.7539405226707458, + "covertype_test_recall": 0.7570000290870667, + "covertype_test_f1-score": 0.753774881362915, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7570000290870667 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6126933097839355, + "lr": 0.00013551570009440184, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.7521369457244873, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7463166117668152, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5971259474754333, + "lr": 0.0001355156855424866, + "covertype_test_accuracy": 0.7559999823570251, + "covertype_test_precision": 0.7592275738716125, + "covertype_test_recall": 0.7559999823570251, + "covertype_test_f1-score": 0.7536635994911194, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7559999823570251 + }, + "5": { + "covertype_test_loss": 0.580929696559906, + "covertype_test_accuracy": 0.7605262994766235, + "covertype_test_precision": 0.7656381130218506, + "covertype_test_recall": 0.7605262994766235, + "covertype_test_f1-score": 0.7582225799560547, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7605262994766235 + }, + "10": { + "covertype_test_loss": 0.5614916086196899, + "covertype_test_accuracy": 0.7672222256660461, + "covertype_test_precision": 0.770703911781311, + "covertype_test_recall": 0.7672222256660461, + "covertype_test_f1-score": 0.7643232941627502, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7672222256660461 + }, + "20": { + "covertype_test_loss": 0.547771692276001, + "covertype_test_accuracy": 0.7712500095367432, + "covertype_test_precision": 0.7762123942375183, + "covertype_test_recall": 0.7712500095367432, + "covertype_test_f1-score": 0.7683001756668091, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7712500095367432 + }, + "50": { + "covertype_test_loss": 0.5435785055160522, + "covertype_test_accuracy": 0.7670000195503235, + "covertype_test_precision": 0.7709763050079346, + "covertype_test_recall": 0.7670000195503235, + "covertype_test_f1-score": 0.7642241716384888, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7670000195503235 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6323559284210205, + "lr": 2.4471739379805513e-05, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7424569725990295, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7435986399650574, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6007217764854431, + "lr": 2.4471744836773723e-05, + "covertype_test_accuracy": 0.7484999895095825, + "covertype_test_precision": 0.7472615838050842, + "covertype_test_recall": 0.7484999895095825, + "covertype_test_f1-score": 0.7456518411636353, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7484999895095825 + }, + "5": { + "covertype_test_loss": 0.5757672190666199, + "covertype_test_accuracy": 0.7552631497383118, + "covertype_test_precision": 0.7539958953857422, + "covertype_test_recall": 0.7552631497383118, + "covertype_test_f1-score": 0.7520401477813721, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7552631497383118 + }, + "10": { + "covertype_test_loss": 0.5623078942298889, + "covertype_test_accuracy": 0.757777750492096, + "covertype_test_precision": 0.754753828048706, + "covertype_test_recall": 0.757777750492096, + "covertype_test_f1-score": 0.7537150979042053, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.757777750492096 + }, + "20": { + "covertype_test_loss": 0.5360875725746155, + "covertype_test_accuracy": 0.7668750286102295, + "covertype_test_precision": 0.7651559114456177, + "covertype_test_recall": 0.7668750286102295, + "covertype_test_f1-score": 0.763543426990509, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7668750286102295 + }, + "50": { + "covertype_test_loss": 0.5328293442726135, + "covertype_test_accuracy": 0.7590000033378601, + "covertype_test_precision": 0.7575160264968872, + "covertype_test_recall": 0.7590000033378601, + "covertype_test_f1-score": 0.7563123106956482, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7590000033378601 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6025153994560242, + "std": 0.010867898008457758, + "n": 5, + "ci95": 0.01349211436103649 + }, + "lr": { + "mean": 3.554003560566343e-05, + "std": 5.657907604359304e-05, + "n": 5, + "ci95": 7.024093930839767e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7556999921798706, + "std": 0.005911860575407706, + "n": 5, + "ci95": 0.0073393676410865435 + }, + "covertype_test_precision": { + "mean": 0.7567156314849853, + "std": 0.006626082200146165, + "n": 5, + "ci95": 0.008226048748380451 + }, + "covertype_test_recall": { + "mean": 0.7556999921798706, + "std": 0.005911860575407706, + "n": 5, + "ci95": 0.0073393676410865435 + }, + "covertype_test_f1-score": { + "mean": 0.7539831280708313, + "std": 0.006506250047833864, + "n": 5, + "ci95": 0.008077281332467231 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7556999921798706, + "std": 0.005911860575407706, + "n": 5, + "ci95": 0.0073393676410865435 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5792492508888245, + "std": 0.009941681091448202, + "n": 5, + "ci95": 0.012342248530708097 + }, + "covertype_test_accuracy": { + "mean": 0.7625263094902038, + "std": 0.006577900101483551, + "n": 5, + "ci95": 0.008166232362101815 + }, + "covertype_test_precision": { + "mean": 0.7632454752922058, + "std": 0.0064876237097665395, + "n": 5, + "ci95": 0.008054157386775422 + }, + "covertype_test_recall": { + "mean": 0.7625263094902038, + "std": 0.006577900101483551, + "n": 5, + "ci95": 0.008166232362101815 + }, + "covertype_test_f1-score": { + "mean": 0.7605990648269654, + "std": 0.007165675976496936, + "n": 5, + "ci95": 0.008895935504159942 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7625263094902038, + "std": 0.006577900101483551, + "n": 5, + "ci95": 0.008166232362101815 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.562691581249237, + "std": 0.008922243162592306, + "n": 5, + "ci95": 0.011076652082397869 + }, + "covertype_test_accuracy": { + "mean": 0.7662222146987915, + "std": 0.005936917816201841, + "n": 5, + "ci95": 0.007370475327053361 + }, + "covertype_test_precision": { + "mean": 0.7653392791748047, + "std": 0.006937585043627452, + "n": 5, + "ci95": 0.008612768607617885 + }, + "covertype_test_recall": { + "mean": 0.7662222146987915, + "std": 0.005936917816201841, + "n": 5, + "ci95": 0.007370475327053361 + }, + "covertype_test_f1-score": { + "mean": 0.7636224269866944, + "std": 0.006756251223538573, + "n": 5, + "ci95": 0.008387649027340377 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7662222146987915, + "std": 0.005936917816201841, + "n": 5, + "ci95": 0.007370475327053361 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5399603366851806, + "std": 0.01110759691207146, + "n": 5, + "ci95": 0.013789692146294899 + }, + "covertype_test_accuracy": { + "mean": 0.7733750104904175, + "std": 0.005240302615436733, + "n": 5, + "ci95": 0.0065056519778606495 + }, + "covertype_test_precision": { + "mean": 0.7738866686820984, + "std": 0.005624907573330375, + "n": 5, + "ci95": 0.006983125549261879 + }, + "covertype_test_recall": { + "mean": 0.7733750104904175, + "std": 0.005240302615436733, + "n": 5, + "ci95": 0.0065056519778606495 + }, + "covertype_test_f1-score": { + "mean": 0.7713023781776428, + "std": 0.0060629907224296516, + "n": 5, + "ci95": 0.00752699042015877 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7733750104904175, + "std": 0.005240302615436733, + "n": 5, + "ci95": 0.0065056519778606495 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5423667192459106, + "std": 0.008712914949761624, + "n": 5, + "ci95": 0.01081677844498381 + }, + "covertype_test_accuracy": { + "mean": 0.7654000043869018, + "std": 0.008264372729707866, + "n": 5, + "ci95": 0.01025992900418037 + }, + "covertype_test_precision": { + "mean": 0.7651366949081421, + "std": 0.009170567533518319, + "n": 5, + "ci95": 0.011384938082925183 + }, + "covertype_test_recall": { + "mean": 0.7654000043869018, + "std": 0.008264372729707866, + "n": 5, + "ci95": 0.01025992900418037 + }, + "covertype_test_f1-score": { + "mean": 0.7629812359809875, + "std": 0.008665244431195518, + "n": 5, + "ci95": 0.010757597167459556 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7654000043869018, + "std": 0.008264372729707866, + "n": 5, + "ci95": 0.01025992900418037 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..929a3036395008353cd8099f60fc4e19eebc551d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp7c8dl1hh", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp7c8dl1hh/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5865755677223206, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.7657657861709595, + "covertype_val_precision": 0.7588055729866028, + "covertype_val_recall": 0.7657657861709595, + "covertype_val_f1-score": 0.7606039047241211, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7657657861709595 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5796204209327698, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.784500002861023, + "covertype_test_precision": 0.7850045561790466, + "covertype_test_recall": 0.784500002861023, + "covertype_test_f1-score": 0.7833357453346252, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.784500002861023 + }, + "5": { + "covertype_test_loss": 0.5622946619987488, + "covertype_test_accuracy": 0.7926315665245056, + "covertype_test_precision": 0.7912739515304565, + "covertype_test_recall": 0.7926315665245056, + "covertype_test_f1-score": 0.7911162376403809, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7926315665245056 + }, + "10": { + "covertype_test_loss": 0.5346755981445312, + "covertype_test_accuracy": 0.7961111068725586, + "covertype_test_precision": 0.7934165000915527, + "covertype_test_recall": 0.7961111068725586, + "covertype_test_f1-score": 0.7940160632133484, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7961111068725586 + }, + "20": { + "covertype_test_loss": 0.5122382640838623, + "covertype_test_accuracy": 0.8068749904632568, + "covertype_test_precision": 0.8061701059341431, + "covertype_test_recall": 0.8068749904632568, + "covertype_test_f1-score": 0.8053901195526123, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8068749904632568 + }, + "50": { + "covertype_test_loss": 0.5242745280265808, + "covertype_test_accuracy": 0.8019999861717224, + "covertype_test_precision": 0.8003836274147034, + "covertype_test_recall": 0.8019999861717224, + "covertype_test_f1-score": 0.8003283739089966, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8019999861717224 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6060323715209961, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.7767767906188965, + "covertype_val_precision": 0.7667948007583618, + "covertype_val_recall": 0.7767767906188965, + "covertype_val_f1-score": 0.7677018046379089, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7767767906188965 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5701729655265808, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7838271260261536, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.7807865738868713, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5551058053970337, + "covertype_test_accuracy": 0.793684184551239, + "covertype_test_precision": 0.7898240089416504, + "covertype_test_recall": 0.793684184551239, + "covertype_test_f1-score": 0.7890129685401917, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.793684184551239 + }, + "10": { + "covertype_test_loss": 0.5271698832511902, + "covertype_test_accuracy": 0.7983333468437195, + "covertype_test_precision": 0.7950109839439392, + "covertype_test_recall": 0.7983333468437195, + "covertype_test_f1-score": 0.7936050295829773, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7983333468437195 + }, + "20": { + "covertype_test_loss": 0.5090806484222412, + "covertype_test_accuracy": 0.8018749952316284, + "covertype_test_precision": 0.7998242378234863, + "covertype_test_recall": 0.8018749952316284, + "covertype_test_f1-score": 0.7982800006866455, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8018749952316284 + }, + "50": { + "covertype_test_loss": 0.5024864673614502, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.8000571727752686, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.7990806698799133, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5800210237503052, + "lr": 0.0, + "covertype_val_accuracy": 0.7667667865753174, + "covertype_val_precision": 0.762290894985199, + "covertype_val_recall": 0.7667667865753174, + "covertype_val_f1-score": 0.7614143490791321, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7667667865753174 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5769955515861511, + "lr": 0.0, + "covertype_test_accuracy": 0.7940000295639038, + "covertype_test_precision": 0.7940806150436401, + "covertype_test_recall": 0.7940000295639038, + "covertype_test_f1-score": 0.7926950454711914, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7940000295639038 + }, + "5": { + "covertype_test_loss": 0.5597566962242126, + "covertype_test_accuracy": 0.8005263209342957, + "covertype_test_precision": 0.7993181347846985, + "covertype_test_recall": 0.8005263209342957, + "covertype_test_f1-score": 0.7992457747459412, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.8005263209342957 + }, + "10": { + "covertype_test_loss": 0.5350703001022339, + "covertype_test_accuracy": 0.8038889169692993, + "covertype_test_precision": 0.8014683127403259, + "covertype_test_recall": 0.8038889169692993, + "covertype_test_f1-score": 0.802001953125, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8038889169692993 + }, + "20": { + "covertype_test_loss": 0.5097298622131348, + "covertype_test_accuracy": 0.8125, + "covertype_test_precision": 0.8128156661987305, + "covertype_test_recall": 0.8125, + "covertype_test_f1-score": 0.8114544153213501, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8125 + }, + "50": { + "covertype_test_loss": 0.504065752029419, + "covertype_test_accuracy": 0.8159999847412109, + "covertype_test_precision": 0.8132112622261047, + "covertype_test_recall": 0.8159999847412109, + "covertype_test_f1-score": 0.81402587890625, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8159999847412109 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5574735999107361, + "lr": 0.0, + "covertype_val_accuracy": 0.7857857942581177, + "covertype_val_precision": 0.7800651788711548, + "covertype_val_recall": 0.7857857942581177, + "covertype_val_f1-score": 0.7811432480812073, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7857857942581177 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.572138249874115, + "lr": 0.0, + "covertype_test_accuracy": 0.7944999933242798, + "covertype_test_precision": 0.7935996055603027, + "covertype_test_recall": 0.7944999933242798, + "covertype_test_f1-score": 0.7927768230438232, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7944999933242798 + }, + "5": { + "covertype_test_loss": 0.5525862574577332, + "covertype_test_accuracy": 0.8021052479743958, + "covertype_test_precision": 0.8001465201377869, + "covertype_test_recall": 0.8021052479743958, + "covertype_test_f1-score": 0.8003255724906921, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.8021052479743958 + }, + "10": { + "covertype_test_loss": 0.5111224055290222, + "covertype_test_accuracy": 0.8066666722297668, + "covertype_test_precision": 0.8035595417022705, + "covertype_test_recall": 0.8066666722297668, + "covertype_test_f1-score": 0.804155170917511, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8066666722297668 + }, + "20": { + "covertype_test_loss": 0.48862114548683167, + "covertype_test_accuracy": 0.8143749833106995, + "covertype_test_precision": 0.8131640553474426, + "covertype_test_recall": 0.8143749833106995, + "covertype_test_f1-score": 0.8124813437461853, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8143749833106995 + }, + "50": { + "covertype_test_loss": 0.48737072944641113, + "covertype_test_accuracy": 0.8149999976158142, + "covertype_test_precision": 0.8118968605995178, + "covertype_test_recall": 0.8149999976158142, + "covertype_test_f1-score": 0.8120171427726746, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8149999976158142 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5818315148353577, + "lr": 0.0, + "covertype_val_accuracy": 0.7687687873840332, + "covertype_val_precision": 0.7612444162368774, + "covertype_val_recall": 0.7687687873840332, + "covertype_val_f1-score": 0.7633522152900696, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7687687873840332 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5527024865150452, + "lr": 0.0, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7864618301391602, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.784608781337738, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5360800623893738, + "covertype_test_accuracy": 0.7926315665245056, + "covertype_test_precision": 0.790680468082428, + "covertype_test_recall": 0.7926315665245056, + "covertype_test_f1-score": 0.7905416488647461, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7926315665245056 + }, + "10": { + "covertype_test_loss": 0.5108533501625061, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7925654053688049, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7922923564910889, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7950000166893005 + }, + "20": { + "covertype_test_loss": 0.4911034405231476, + "covertype_test_accuracy": 0.8062499761581421, + "covertype_test_precision": 0.805735170841217, + "covertype_test_recall": 0.8062499761581421, + "covertype_test_f1-score": 0.8045191168785095, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8062499761581421 + }, + "50": { + "covertype_test_loss": 0.4941369295120239, + "covertype_test_accuracy": 0.8040000200271606, + "covertype_test_precision": 0.801478922367096, + "covertype_test_recall": 0.8040000200271606, + "covertype_test_f1-score": 0.8013801574707031, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8040000200271606 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5703259348869324, + "std": 0.010544727065283753, + "n": 5, + "ci95": 0.013090908965101193 + }, + "lr": { + "mean": 1.5770596291986293e-06, + "std": 2.1594778336070556e-06, + "n": 5, + "ci95": 2.680916021522762e-06 + }, + "covertype_test_accuracy": { + "mean": 0.7891999959945679, + "std": 0.004685094272037215, + "n": 5, + "ci95": 0.00581638028451956 + }, + "covertype_test_precision": { + "mean": 0.7885947465896607, + "std": 0.004881402759894945, + "n": 5, + "ci95": 0.006060090389836836 + }, + "covertype_test_recall": { + "mean": 0.7891999959945679, + "std": 0.004685094272037215, + "n": 5, + "ci95": 0.00581638028451956 + }, + "covertype_test_f1-score": { + "mean": 0.7868405938148498, + "std": 0.005554942140698768, + "n": 5, + "ci95": 0.006896265917560295 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7891999959945679, + "std": 0.004685094272037215, + "n": 5, + "ci95": 0.00581638028451956 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5531646966934204, + "std": 0.010281025587728315, + "n": 5, + "ci95": 0.012763532825797771 + }, + "covertype_test_accuracy": { + "mean": 0.7963157773017884, + "std": 0.004618407378573953, + "n": 5, + "ci95": 0.005733590844253526 + }, + "covertype_test_precision": { + "mean": 0.794248616695404, + "std": 0.005040901452512408, + "n": 5, + "ci95": 0.0062581024248739596 + }, + "covertype_test_recall": { + "mean": 0.7963157773017884, + "std": 0.004618407378573953, + "n": 5, + "ci95": 0.005733590844253526 + }, + "covertype_test_f1-score": { + "mean": 0.7940484404563903, + "std": 0.00530721321254538, + "n": 5, + "ci95": 0.006588719138359629 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7963157773017884, + "std": 0.004618407378573953, + "n": 5, + "ci95": 0.005733590844253526 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5237783074378968, + "std": 0.012093275024485622, + "n": 5, + "ci95": 0.015013376966074476 + }, + "covertype_test_accuracy": { + "mean": 0.800000011920929, + "std": 0.005061354794415524, + "n": 5, + "ci95": 0.0062834945317751705 + }, + "covertype_test_precision": { + "mean": 0.7972041487693786, + "std": 0.004981172264064054, + "n": 5, + "ci95": 0.006183950731454502 + }, + "covertype_test_recall": { + "mean": 0.800000011920929, + "std": 0.005061354794415524, + "n": 5, + "ci95": 0.0062834945317751705 + }, + "covertype_test_f1-score": { + "mean": 0.7972141146659851, + "std": 0.005444685270030029, + "n": 5, + "ci95": 0.0067593858781087885 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.800000011920929, + "std": 0.005061354794415524, + "n": 5, + "ci95": 0.0062834945317751705 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5021546721458435, + "std": 0.011317216337487194, + "n": 5, + "ci95": 0.014049927313923714 + }, + "covertype_test_accuracy": { + "mean": 0.8083749890327454, + "std": 0.005050525756188878, + "n": 5, + "ci95": 0.0062700506604708725 + }, + "covertype_test_precision": { + "mean": 0.8075418472290039, + "std": 0.005570674091589645, + "n": 5, + "ci95": 0.006915796583046549 + }, + "covertype_test_recall": { + "mean": 0.8083749890327454, + "std": 0.005050525756188878, + "n": 5, + "ci95": 0.0062700506604708725 + }, + "covertype_test_f1-score": { + "mean": 0.8064249992370606, + "std": 0.00576668665427338, + "n": 5, + "ci95": 0.007159139307635118 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8083749890327454, + "std": 0.005050525756188878, + "n": 5, + "ci95": 0.0062700506604708725 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.502466881275177, + "std": 0.01392311140290818, + "n": 5, + "ci95": 0.0172850546778499 + }, + "covertype_test_accuracy": { + "mean": 0.8079999923706055, + "std": 0.0068920242895843245, + "n": 5, + "ci95": 0.008556206528782903 + }, + "covertype_test_precision": { + "mean": 0.805405569076538, + "std": 0.0065633357870174885, + "n": 5, + "ci95": 0.008148151276300928 + }, + "covertype_test_recall": { + "mean": 0.8079999923706055, + "std": 0.0068920242895843245, + "n": 5, + "ci95": 0.008556206528782903 + }, + "covertype_test_f1-score": { + "mean": 0.8053664445877076, + "std": 0.007071088916933204, + "n": 5, + "ci95": 0.008778508985829086 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8079999923706055, + "std": 0.0068920242895843245, + "n": 5, + "ci95": 0.008556206528782903 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..4bd104427f6ed55390f389a2991f21eb32143dce --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpnc4nhlnj", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpnc4nhlnj/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5976748466491699, + "lr": 0.0, + "covertype_val_accuracy": 0.7527527809143066, + "covertype_val_precision": 0.7538198828697205, + "covertype_val_recall": 0.7527527809143066, + "covertype_val_f1-score": 0.7478923201560974, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7527527809143066 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.587950587272644, + "lr": 0.0, + "covertype_test_accuracy": 0.7419999837875366, + "covertype_test_precision": 0.7415771484375, + "covertype_test_recall": 0.7419999837875366, + "covertype_test_f1-score": 0.7377408146858215, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7419999837875366 + }, + "5": { + "covertype_test_loss": 0.5697929859161377, + "covertype_test_accuracy": 0.7510526180267334, + "covertype_test_precision": 0.7512772083282471, + "covertype_test_recall": 0.7510526180267334, + "covertype_test_f1-score": 0.7478474974632263, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7510526180267334 + }, + "10": { + "covertype_test_loss": 0.558866560459137, + "covertype_test_accuracy": 0.7561110854148865, + "covertype_test_precision": 0.7568636536598206, + "covertype_test_recall": 0.7561110854148865, + "covertype_test_f1-score": 0.7528243064880371, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7561110854148865 + }, + "20": { + "covertype_test_loss": 0.5383349657058716, + "covertype_test_accuracy": 0.7643749713897705, + "covertype_test_precision": 0.7660017609596252, + "covertype_test_recall": 0.7643749713897705, + "covertype_test_f1-score": 0.7611210346221924, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7643749713897705 + }, + "50": { + "covertype_test_loss": 0.5273575186729431, + "covertype_test_accuracy": 0.7710000276565552, + "covertype_test_precision": 0.7705860137939453, + "covertype_test_recall": 0.7710000276565552, + "covertype_test_f1-score": 0.7687391638755798, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7710000276565552 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5996973514556885, + "lr": 0.0, + "covertype_val_accuracy": 0.7417417168617249, + "covertype_val_precision": 0.7392163276672363, + "covertype_val_recall": 0.7417417168617249, + "covertype_val_f1-score": 0.7361798882484436, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7417417168617249 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5799676775932312, + "lr": 0.0, + "covertype_test_accuracy": 0.7459999918937683, + "covertype_test_precision": 0.7492867112159729, + "covertype_test_recall": 0.7459999918937683, + "covertype_test_f1-score": 0.7428030371665955, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7459999918937683 + }, + "5": { + "covertype_test_loss": 0.5621899366378784, + "covertype_test_accuracy": 0.753157913684845, + "covertype_test_precision": 0.7574335932731628, + "covertype_test_recall": 0.753157913684845, + "covertype_test_f1-score": 0.7512466907501221, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.753157913684845 + }, + "10": { + "covertype_test_loss": 0.5528791546821594, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7584334015846252, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7525476813316345, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7549999952316284 + }, + "20": { + "covertype_test_loss": 0.529085636138916, + "covertype_test_accuracy": 0.7631250023841858, + "covertype_test_precision": 0.766417920589447, + "covertype_test_recall": 0.7631250023841858, + "covertype_test_f1-score": 0.7615359425544739, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7631250023841858 + }, + "50": { + "covertype_test_loss": 0.5221033692359924, + "covertype_test_accuracy": 0.7630000114440918, + "covertype_test_precision": 0.7633981704711914, + "covertype_test_recall": 0.7630000114440918, + "covertype_test_f1-score": 0.7611278295516968, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7630000114440918 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.589042603969574, + "lr": 0.0, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.7346060872077942, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.7327550053596497, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5759727954864502, + "lr": 0.0, + "covertype_test_accuracy": 0.746999979019165, + "covertype_test_precision": 0.7479371428489685, + "covertype_test_recall": 0.746999979019165, + "covertype_test_f1-score": 0.7436726689338684, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.746999979019165 + }, + "5": { + "covertype_test_loss": 0.5583832859992981, + "covertype_test_accuracy": 0.7542105317115784, + "covertype_test_precision": 0.7551347017288208, + "covertype_test_recall": 0.7542105317115784, + "covertype_test_f1-score": 0.7518038749694824, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7542105317115784 + }, + "10": { + "covertype_test_loss": 0.5477470755577087, + "covertype_test_accuracy": 0.7566666603088379, + "covertype_test_precision": 0.7569538354873657, + "covertype_test_recall": 0.7566666603088379, + "covertype_test_f1-score": 0.7536332011222839, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7566666603088379 + }, + "20": { + "covertype_test_loss": 0.5223304033279419, + "covertype_test_accuracy": 0.765625, + "covertype_test_precision": 0.7664584517478943, + "covertype_test_recall": 0.765625, + "covertype_test_f1-score": 0.762816846370697, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.765625 + }, + "50": { + "covertype_test_loss": 0.5084818601608276, + "covertype_test_accuracy": 0.7630000114440918, + "covertype_test_precision": 0.7632109522819519, + "covertype_test_recall": 0.7630000114440918, + "covertype_test_f1-score": 0.762182891368866, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7630000114440918 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.587259829044342, + "lr": 0.0, + "covertype_val_accuracy": 0.7457457184791565, + "covertype_val_precision": 0.7387169003486633, + "covertype_val_recall": 0.7457457184791565, + "covertype_val_f1-score": 0.7403092980384827, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7457457184791565 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5663378238677979, + "lr": 0.0, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7503706216812134, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7484055757522583, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7519999742507935 + }, + "5": { + "covertype_test_loss": 0.5466495156288147, + "covertype_test_accuracy": 0.7594736814498901, + "covertype_test_precision": 0.7585820555686951, + "covertype_test_recall": 0.7594736814498901, + "covertype_test_f1-score": 0.7569596171379089, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7594736814498901 + }, + "10": { + "covertype_test_loss": 0.5367551445960999, + "covertype_test_accuracy": 0.7638888955116272, + "covertype_test_precision": 0.7652423977851868, + "covertype_test_recall": 0.7638888955116272, + "covertype_test_f1-score": 0.760826826095581, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7638888955116272 + }, + "20": { + "covertype_test_loss": 0.5143874883651733, + "covertype_test_accuracy": 0.7737500071525574, + "covertype_test_precision": 0.7750963568687439, + "covertype_test_recall": 0.7737500071525574, + "covertype_test_f1-score": 0.7713895440101624, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7737500071525574 + }, + "50": { + "covertype_test_loss": 0.49020901322364807, + "covertype_test_accuracy": 0.7770000100135803, + "covertype_test_precision": 0.7744256854057312, + "covertype_test_recall": 0.7770000100135803, + "covertype_test_f1-score": 0.7746017575263977, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7770000100135803 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5809991359710693, + "lr": 0.0, + "covertype_val_accuracy": 0.7577577829360962, + "covertype_val_precision": 0.7482515573501587, + "covertype_val_recall": 0.7577577829360962, + "covertype_val_f1-score": 0.7495256662368774, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7577577829360962 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5713794231414795, + "lr": 0.0, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7541799545288086, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.749092698097229, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7519999742507935 + }, + "5": { + "covertype_test_loss": 0.5532182455062866, + "covertype_test_accuracy": 0.7621052861213684, + "covertype_test_precision": 0.7638673186302185, + "covertype_test_recall": 0.7621052861213684, + "covertype_test_f1-score": 0.7600537538528442, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7621052861213684 + }, + "10": { + "covertype_test_loss": 0.5427124500274658, + "covertype_test_accuracy": 0.7638888955116272, + "covertype_test_precision": 0.7654957175254822, + "covertype_test_recall": 0.7638888955116272, + "covertype_test_f1-score": 0.7612711191177368, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7638888955116272 + }, + "20": { + "covertype_test_loss": 0.5199242234230042, + "covertype_test_accuracy": 0.7712500095367432, + "covertype_test_precision": 0.7719906568527222, + "covertype_test_recall": 0.7712500095367432, + "covertype_test_f1-score": 0.7694908380508423, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7712500095367432 + }, + "50": { + "covertype_test_loss": 0.5206310749053955, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7603471279144287, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7603476047515869, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7620000243186951 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5763216614723206, + "std": 0.008257569093440623, + "n": 5, + "ci95": 0.010251482528282539 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7477999806404114, + "std": 0.004266140475590792, + "n": 5, + "ci95": 0.00529626383428728 + }, + "covertype_test_precision": { + "mean": 0.7486703157424927, + "std": 0.004595586690757454, + "n": 5, + "ci95": 0.005705259760397374 + }, + "covertype_test_recall": { + "mean": 0.7477999806404114, + "std": 0.004266140475590792, + "n": 5, + "ci95": 0.00529626383428728 + }, + "covertype_test_f1-score": { + "mean": 0.7443429589271545, + "std": 0.004622602998810987, + "n": 5, + "ci95": 0.005738799559684006 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7477999806404114, + "std": 0.004266140475590792, + "n": 5, + "ci95": 0.00529626383428728 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5580467939376831, + "std": 0.008781581821354374, + "n": 5, + "ci95": 0.010902025958681763 + }, + "covertype_test_accuracy": { + "mean": 0.7560000061988831, + "std": 0.00461240775534736, + "n": 5, + "ci95": 0.005726142522357854 + }, + "covertype_test_precision": { + "mean": 0.7572589755058289, + "std": 0.004629938139801912, + "n": 5, + "ci95": 0.005747905880062323 + }, + "covertype_test_recall": { + "mean": 0.7560000061988831, + "std": 0.00461240775534736, + "n": 5, + "ci95": 0.005726142522357854 + }, + "covertype_test_f1-score": { + "mean": 0.7535822868347168, + "std": 0.004868054342129717, + "n": 5, + "ci95": 0.006043518797162043 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7560000061988831, + "std": 0.00461240775534736, + "n": 5, + "ci95": 0.005726142522357854 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5477920770645142, + "std": 0.008604374692985958, + "n": 5, + "ci95": 0.010682029521497972 + }, + "covertype_test_accuracy": { + "mean": 0.7591111063957214, + "std": 0.004402590579215708, + "n": 5, + "ci95": 0.00546566185414815 + }, + "covertype_test_precision": { + "mean": 0.7605978012084961, + "std": 0.004400818998557832, + "n": 5, + "ci95": 0.005463462498871053 + }, + "covertype_test_recall": { + "mean": 0.7591111063957214, + "std": 0.004402590579215708, + "n": 5, + "ci95": 0.00546566185414815 + }, + "covertype_test_f1-score": { + "mean": 0.7562206268310547, + "std": 0.004428454479693583, + "n": 5, + "ci95": 0.005497770979831735 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7591111063957214, + "std": 0.004402590579215708, + "n": 5, + "ci95": 0.00546566185414815 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5248125433921814, + "std": 0.00921756055835393, + "n": 5, + "ci95": 0.011443278275735208 + }, + "covertype_test_accuracy": { + "mean": 0.7676249980926514, + "std": 0.004622474209500349, + "n": 5, + "ci95": 0.005738639672270059 + }, + "covertype_test_precision": { + "mean": 0.7691930294036865, + "std": 0.0041242979000003024, + "n": 5, + "ci95": 0.005120171249535241 + }, + "covertype_test_recall": { + "mean": 0.7676249980926514, + "std": 0.004622474209500349, + "n": 5, + "ci95": 0.005738639672270059 + }, + "covertype_test_f1-score": { + "mean": 0.7652708411216735, + "std": 0.0048072692520812026, + "n": 5, + "ci95": 0.005968056238924727 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7676249980926514, + "std": 0.004622474209500349, + "n": 5, + "ci95": 0.005738639672270059 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5137565672397614, + "std": 0.014867949371107345, + "n": 5, + "ci95": 0.018458037890396767 + }, + "covertype_test_accuracy": { + "mean": 0.7672000169754029, + "std": 0.006572669953700331, + "n": 5, + "ci95": 0.008159739316992133 + }, + "covertype_test_precision": { + "mean": 0.7663935899734498, + "std": 0.005868398389359921, + "n": 5, + "ci95": 0.007285410860844311 + }, + "covertype_test_recall": { + "mean": 0.7672000169754029, + "std": 0.006572669953700331, + "n": 5, + "ci95": 0.008159739316992133 + }, + "covertype_test_f1-score": { + "mean": 0.7653998494148254, + "std": 0.006122709426374778, + "n": 5, + "ci95": 0.007601129097435044 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7672000169754029, + "std": 0.006572669953700331, + "n": 5, + "ci95": 0.008159739316992133 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..d45d778c1043b280230c04f508ba68e9dfbb5f85 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpuwjmvmad", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpuwjmvmad/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6451944708824158, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7407407164573669, + "covertype_val_precision": 0.7367478013038635, + "covertype_val_recall": 0.7407407164573669, + "covertype_val_f1-score": 0.7311959862709045, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7407407164573669 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6390084028244019, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7164999842643738, + "covertype_test_precision": 0.7108187675476074, + "covertype_test_recall": 0.7164999842643738, + "covertype_test_f1-score": 0.7066012024879456, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7164999842643738 + }, + "5": { + "covertype_test_loss": 0.6207530498504639, + "covertype_test_accuracy": 0.7263157963752747, + "covertype_test_precision": 0.7172012329101562, + "covertype_test_recall": 0.7263157963752747, + "covertype_test_f1-score": 0.7186960577964783, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7263157963752747 + }, + "10": { + "covertype_test_loss": 0.6105586290359497, + "covertype_test_accuracy": 0.7300000190734863, + "covertype_test_precision": 0.7182246446609497, + "covertype_test_recall": 0.7300000190734863, + "covertype_test_f1-score": 0.7232867479324341, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7300000190734863 + }, + "20": { + "covertype_test_loss": 0.5945261120796204, + "covertype_test_accuracy": 0.7381250262260437, + "covertype_test_precision": 0.7253692746162415, + "covertype_test_recall": 0.7381250262260437, + "covertype_test_f1-score": 0.7315741181373596, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7381250262260437 + }, + "50": { + "covertype_test_loss": 0.5658642649650574, + "covertype_test_accuracy": 0.7480000257492065, + "covertype_test_precision": 0.7348833680152893, + "covertype_test_recall": 0.7480000257492065, + "covertype_test_f1-score": 0.7408710718154907, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7480000257492065 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6545438170433044, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7157157063484192, + "covertype_val_precision": 0.6921530365943909, + "covertype_val_recall": 0.7157157063484192, + "covertype_val_f1-score": 0.691078782081604, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7157157063484192 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6479858160018921, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7070000171661377, + "covertype_test_precision": 0.6984880566596985, + "covertype_test_recall": 0.7070000171661377, + "covertype_test_f1-score": 0.6837852597236633, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7070000171661377 + }, + "5": { + "covertype_test_loss": 0.6261267066001892, + "covertype_test_accuracy": 0.7173684239387512, + "covertype_test_precision": 0.7103869915008545, + "covertype_test_recall": 0.7173684239387512, + "covertype_test_f1-score": 0.6969842910766602, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7173684239387512 + }, + "10": { + "covertype_test_loss": 0.6182156801223755, + "covertype_test_accuracy": 0.721666693687439, + "covertype_test_precision": 0.7194475531578064, + "covertype_test_recall": 0.721666693687439, + "covertype_test_f1-score": 0.7023337483406067, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.721666693687439 + }, + "20": { + "covertype_test_loss": 0.6000398993492126, + "covertype_test_accuracy": 0.721875011920929, + "covertype_test_precision": 0.7167283892631531, + "covertype_test_recall": 0.721875011920929, + "covertype_test_f1-score": 0.7018158435821533, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.721875011920929 + }, + "50": { + "covertype_test_loss": 0.5767756104469299, + "covertype_test_accuracy": 0.7229999899864197, + "covertype_test_precision": 0.7370672821998596, + "covertype_test_recall": 0.7229999899864197, + "covertype_test_f1-score": 0.6991173624992371, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7229999899864197 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6648412346839905, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7297297120094299, + "covertype_val_precision": 0.716544508934021, + "covertype_val_recall": 0.7297297120094299, + "covertype_val_f1-score": 0.7167871594429016, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7297297120094299 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6636789441108704, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7179999947547913, + "covertype_test_precision": 0.7235875129699707, + "covertype_test_recall": 0.7179999947547913, + "covertype_test_f1-score": 0.7044111490249634, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7179999947547913 + }, + "5": { + "covertype_test_loss": 0.6424567699432373, + "covertype_test_accuracy": 0.7278947234153748, + "covertype_test_precision": 0.7350314259529114, + "covertype_test_recall": 0.7278947234153748, + "covertype_test_f1-score": 0.7164512872695923, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7278947234153748 + }, + "10": { + "covertype_test_loss": 0.6299718022346497, + "covertype_test_accuracy": 0.7333333492279053, + "covertype_test_precision": 0.7415938973426819, + "covertype_test_recall": 0.7333333492279053, + "covertype_test_f1-score": 0.721926212310791, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7333333492279053 + }, + "20": { + "covertype_test_loss": 0.6116940379142761, + "covertype_test_accuracy": 0.7381250262260437, + "covertype_test_precision": 0.7486182451248169, + "covertype_test_recall": 0.7381250262260437, + "covertype_test_f1-score": 0.7263458967208862, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7381250262260437 + }, + "50": { + "covertype_test_loss": 0.5682859420776367, + "covertype_test_accuracy": 0.7409999966621399, + "covertype_test_precision": 0.743429958820343, + "covertype_test_recall": 0.7409999966621399, + "covertype_test_f1-score": 0.7254687547683716, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7409999966621399 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.682440459728241, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6966966986656189, + "covertype_val_precision": 0.6912304162979126, + "covertype_val_recall": 0.6966966986656189, + "covertype_val_f1-score": 0.6665253043174744, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6966966986656189 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.69875168800354, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6934999823570251, + "covertype_test_precision": 0.7005756497383118, + "covertype_test_recall": 0.6934999823570251, + "covertype_test_f1-score": 0.6620186567306519, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6934999823570251 + }, + "5": { + "covertype_test_loss": 0.6831950545310974, + "covertype_test_accuracy": 0.6994736790657043, + "covertype_test_precision": 0.7086628079414368, + "covertype_test_recall": 0.6994736790657043, + "covertype_test_f1-score": 0.6692991256713867, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6994736790657043 + }, + "10": { + "covertype_test_loss": 0.6765062212944031, + "covertype_test_accuracy": 0.7016666531562805, + "covertype_test_precision": 0.7130829691886902, + "covertype_test_recall": 0.7016666531562805, + "covertype_test_f1-score": 0.6720427870750427, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7016666531562805 + }, + "20": { + "covertype_test_loss": 0.6606532335281372, + "covertype_test_accuracy": 0.6993749737739563, + "covertype_test_precision": 0.7103376984596252, + "covertype_test_recall": 0.6993749737739563, + "covertype_test_f1-score": 0.6695440411567688, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6993749737739563 + }, + "50": { + "covertype_test_loss": 0.6444693207740784, + "covertype_test_accuracy": 0.6990000009536743, + "covertype_test_precision": 0.7178916931152344, + "covertype_test_recall": 0.6990000009536743, + "covertype_test_f1-score": 0.6675782799720764, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6990000009536743 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.644664466381073, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7197197079658508, + "covertype_val_precision": 0.7123017907142639, + "covertype_val_recall": 0.7197197079658508, + "covertype_val_f1-score": 0.7079901099205017, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7197197079658508 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.641374409198761, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7114999890327454, + "covertype_test_precision": 0.7007896304130554, + "covertype_test_recall": 0.7114999890327454, + "covertype_test_f1-score": 0.6997621059417725, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7114999890327454 + }, + "5": { + "covertype_test_loss": 0.6260912418365479, + "covertype_test_accuracy": 0.7205263376235962, + "covertype_test_precision": 0.7109892964363098, + "covertype_test_recall": 0.7205263376235962, + "covertype_test_f1-score": 0.7120890617370605, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7205263376235962 + }, + "10": { + "covertype_test_loss": 0.6162457466125488, + "covertype_test_accuracy": 0.7250000238418579, + "covertype_test_precision": 0.7167878746986389, + "covertype_test_recall": 0.7250000238418579, + "covertype_test_f1-score": 0.7166430354118347, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7250000238418579 + }, + "20": { + "covertype_test_loss": 0.596961498260498, + "covertype_test_accuracy": 0.7318750023841858, + "covertype_test_precision": 0.7240890860557556, + "covertype_test_recall": 0.7318750023841858, + "covertype_test_f1-score": 0.7250829339027405, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7318750023841858 + }, + "50": { + "covertype_test_loss": 0.5672026872634888, + "covertype_test_accuracy": 0.7450000047683716, + "covertype_test_precision": 0.7352982759475708, + "covertype_test_recall": 0.7450000047683716, + "covertype_test_f1-score": 0.7393710017204285, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7450000047683716 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6581598520278931, + "std": 0.024648517358639148, + "n": 5, + "ci95": 0.030600270151039582 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7092999935150146, + "std": 0.00983997094049308, + "n": 5, + "ci95": 0.012215978944142522 + }, + "covertype_test_precision": { + "mean": 0.7068519234657288, + "std": 0.010510864437944675, + "n": 5, + "ci95": 0.013048869700445928 + }, + "covertype_test_recall": { + "mean": 0.7092999935150146, + "std": 0.00983997094049308, + "n": 5, + "ci95": 0.012215978944142522 + }, + "covertype_test_f1-score": { + "mean": 0.6913156747817993, + "std": 0.018651430373338423, + "n": 5, + "ci95": 0.023155096910014366 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7092999935150146, + "std": 0.00983997094049308, + "n": 5, + "ci95": 0.012215978944142522 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6397245645523071, + "std": 0.025631211659491462, + "n": 5, + "ci95": 0.031820250673374254 + }, + "covertype_test_accuracy": { + "mean": 0.7183157920837402, + "std": 0.01136403576080141, + "n": 5, + "ci95": 0.014108051986531199 + }, + "covertype_test_precision": { + "mean": 0.7164543509483338, + "std": 0.010874894968495476, + "n": 5, + "ci95": 0.013500800841617651 + }, + "covertype_test_recall": { + "mean": 0.7183157920837402, + "std": 0.01136403576080141, + "n": 5, + "ci95": 0.014108051986531199 + }, + "covertype_test_f1-score": { + "mean": 0.7027039647102356, + "std": 0.020502523641731198, + "n": 5, + "ci95": 0.025453164305444802 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7183157920837402, + "std": 0.01136403576080141, + "n": 5, + "ci95": 0.014108051986531199 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6302996158599854, + "std": 0.026778709603276225, + "n": 5, + "ci95": 0.03324482914057642 + }, + "covertype_test_accuracy": { + "mean": 0.7223333477973938, + "std": 0.012394007989189531, + "n": 5, + "ci95": 0.015386726398389814 + }, + "covertype_test_precision": { + "mean": 0.7218273878097534, + "std": 0.01130508535681735, + "n": 5, + "ci95": 0.014034867126720842 + }, + "covertype_test_recall": { + "mean": 0.7223333477973938, + "std": 0.012394007989189531, + "n": 5, + "ci95": 0.015386726398389814 + }, + "covertype_test_f1-score": { + "mean": 0.7072465062141419, + "std": 0.021357170444471874, + "n": 5, + "ci95": 0.026514178348077296 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7223333477973938, + "std": 0.012394007989189531, + "n": 5, + "ci95": 0.015386726398389814 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6127749562263489, + "std": 0.027562498349104382, + "n": 5, + "ci95": 0.034217875389757 + }, + "covertype_test_accuracy": { + "mean": 0.7258750081062317, + "std": 0.016235590598290058, + "n": 5, + "ci95": 0.020155916525957867 + }, + "covertype_test_precision": { + "mean": 0.7250285387039185, + "std": 0.014510222164793399, + "n": 5, + "ci95": 0.018013932105277537 + }, + "covertype_test_recall": { + "mean": 0.7258750081062317, + "std": 0.016235590598290058, + "n": 5, + "ci95": 0.020155916525957867 + }, + "covertype_test_f1-score": { + "mean": 0.7108725666999817, + "std": 0.02578751620017174, + "n": 5, + "ci95": 0.03201429728076479 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7258750081062317, + "std": 0.016235590598290058, + "n": 5, + "ci95": 0.020155916525957867 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5845195651054382, + "std": 0.03378374992733986, + "n": 5, + "ci95": 0.04194134111394843 + }, + "covertype_test_accuracy": { + "mean": 0.7312000036239624, + "std": 0.02044994519653513, + "n": 5, + "ci95": 0.025387890009075917 + }, + "covertype_test_precision": { + "mean": 0.7337141156196594, + "std": 0.009485081763387597, + "n": 5, + "ci95": 0.011775396472787438 + }, + "covertype_test_recall": { + "mean": 0.7312000036239624, + "std": 0.02044994519653513, + "n": 5, + "ci95": 0.025387890009075917 + }, + "covertype_test_f1-score": { + "mean": 0.7144812941551208, + "std": 0.03111504995078571, + "n": 5, + "ci95": 0.03862824365472102 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7312000036239624, + "std": 0.02044994519653513, + "n": 5, + "ci95": 0.025387890009075917 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..8925d6491a4057a073cb4c45338e75e65ed2e827 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpesy5r8mb", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpesy5r8mb/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.570374071598053, + "lr": 0.0, + "covertype_val_accuracy": 0.7607607841491699, + "covertype_val_precision": 0.7617413401603699, + "covertype_val_recall": 0.7607607841491699, + "covertype_val_f1-score": 0.7603185772895813, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7607607841491699 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5553393959999084, + "lr": 0.0, + "covertype_test_accuracy": 0.7774999737739563, + "covertype_test_precision": 0.7796820402145386, + "covertype_test_recall": 0.7774999737739563, + "covertype_test_f1-score": 0.7776549458503723, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7774999737739563 + }, + "5": { + "covertype_test_loss": 0.5323323011398315, + "covertype_test_accuracy": 0.7826315760612488, + "covertype_test_precision": 0.7841249704360962, + "covertype_test_recall": 0.7826315760612488, + "covertype_test_f1-score": 0.7823349833488464, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7826315760612488 + }, + "10": { + "covertype_test_loss": 0.5081906318664551, + "covertype_test_accuracy": 0.7883333563804626, + "covertype_test_precision": 0.7875354290008545, + "covertype_test_recall": 0.7883333563804626, + "covertype_test_f1-score": 0.7871758341789246, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7883333563804626 + }, + "20": { + "covertype_test_loss": 0.48865848779678345, + "covertype_test_accuracy": 0.793749988079071, + "covertype_test_precision": 0.7955277562141418, + "covertype_test_recall": 0.793749988079071, + "covertype_test_f1-score": 0.793544352054596, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.793749988079071 + }, + "50": { + "covertype_test_loss": 0.4898585081100464, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.786504864692688, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7840198874473572, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7839999794960022 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6016677021980286, + "lr": 0.0, + "covertype_val_accuracy": 0.7577577829360962, + "covertype_val_precision": 0.7488529682159424, + "covertype_val_recall": 0.7577577829360962, + "covertype_val_f1-score": 0.7511006593704224, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7577577829360962 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5635535717010498, + "lr": 0.0, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7796871662139893, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7773597240447998, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7799999713897705 + }, + "5": { + "covertype_test_loss": 0.5477917194366455, + "covertype_test_accuracy": 0.7857894897460938, + "covertype_test_precision": 0.7842279076576233, + "covertype_test_recall": 0.7857894897460938, + "covertype_test_f1-score": 0.7834629416465759, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7857894897460938 + }, + "10": { + "covertype_test_loss": 0.5315145254135132, + "covertype_test_accuracy": 0.7877777814865112, + "covertype_test_precision": 0.7851067781448364, + "covertype_test_recall": 0.7877777814865112, + "covertype_test_f1-score": 0.7851073145866394, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7877777814865112 + }, + "20": { + "covertype_test_loss": 0.5109652876853943, + "covertype_test_accuracy": 0.793749988079071, + "covertype_test_precision": 0.7918621897697449, + "covertype_test_recall": 0.793749988079071, + "covertype_test_f1-score": 0.7911746501922607, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.793749988079071 + }, + "50": { + "covertype_test_loss": 0.5087705850601196, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7869527339935303, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7829166054725647, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6014463305473328, + "lr": 0.0, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7472679615020752, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7443365454673767, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5729711055755615, + "lr": 0.0, + "covertype_test_accuracy": 0.7605000138282776, + "covertype_test_precision": 0.7660059332847595, + "covertype_test_recall": 0.7605000138282776, + "covertype_test_f1-score": 0.7595755457878113, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7605000138282776 + }, + "5": { + "covertype_test_loss": 0.5550227165222168, + "covertype_test_accuracy": 0.7652631402015686, + "covertype_test_precision": 0.7704055309295654, + "covertype_test_recall": 0.7652631402015686, + "covertype_test_f1-score": 0.7643375396728516, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7652631402015686 + }, + "10": { + "covertype_test_loss": 0.5394636988639832, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7749926447868347, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7684452533721924, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7699999809265137 + }, + "20": { + "covertype_test_loss": 0.5128495693206787, + "covertype_test_accuracy": 0.7737500071525574, + "covertype_test_precision": 0.7813363671302795, + "covertype_test_recall": 0.7737500071525574, + "covertype_test_f1-score": 0.7731972336769104, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7737500071525574 + }, + "50": { + "covertype_test_loss": 0.5232188701629639, + "covertype_test_accuracy": 0.7639999985694885, + "covertype_test_precision": 0.7694867253303528, + "covertype_test_recall": 0.7639999985694885, + "covertype_test_f1-score": 0.7636332511901855, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7639999985694885 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5938799977302551, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7617617845535278, + "covertype_val_precision": 0.766292154788971, + "covertype_val_recall": 0.7617617845535278, + "covertype_val_f1-score": 0.7608532905578613, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7617617845535278 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5437047481536865, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7804999947547913, + "covertype_test_precision": 0.7833890318870544, + "covertype_test_recall": 0.7804999947547913, + "covertype_test_f1-score": 0.7800887823104858, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7804999947547913 + }, + "5": { + "covertype_test_loss": 0.5261743068695068, + "covertype_test_accuracy": 0.7884210348129272, + "covertype_test_precision": 0.791472315788269, + "covertype_test_recall": 0.7884210348129272, + "covertype_test_f1-score": 0.7872270345687866, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7884210348129272 + }, + "10": { + "covertype_test_loss": 0.5016183257102966, + "covertype_test_accuracy": 0.7988888621330261, + "covertype_test_precision": 0.7983455061912537, + "covertype_test_recall": 0.7988888621330261, + "covertype_test_f1-score": 0.7966410517692566, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7988888621330261 + }, + "20": { + "covertype_test_loss": 0.4821664094924927, + "covertype_test_accuracy": 0.8025000095367432, + "covertype_test_precision": 0.8029503226280212, + "covertype_test_recall": 0.8025000095367432, + "covertype_test_f1-score": 0.80039381980896, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8025000095367432 + }, + "50": { + "covertype_test_loss": 0.48072993755340576, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.8055281043052673, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.8004683256149292, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5536530613899231, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7777777910232544, + "covertype_val_precision": 0.7691987156867981, + "covertype_val_recall": 0.7777777910232544, + "covertype_val_f1-score": 0.7718968987464905, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7777777910232544 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5729074478149414, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7775949239730835, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7772597074508667, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7799999713897705 + }, + "5": { + "covertype_test_loss": 0.556065022945404, + "covertype_test_accuracy": 0.7863157987594604, + "covertype_test_precision": 0.7835678458213806, + "covertype_test_recall": 0.7863157987594604, + "covertype_test_f1-score": 0.7843050956726074, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7863157987594604 + }, + "10": { + "covertype_test_loss": 0.5388097763061523, + "covertype_test_accuracy": 0.7911111116409302, + "covertype_test_precision": 0.788386881351471, + "covertype_test_recall": 0.7911111116409302, + "covertype_test_f1-score": 0.789328932762146, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7911111116409302 + }, + "20": { + "covertype_test_loss": 0.5103763341903687, + "covertype_test_accuracy": 0.796875, + "covertype_test_precision": 0.7968490719795227, + "covertype_test_recall": 0.796875, + "covertype_test_f1-score": 0.7960777282714844, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.796875 + }, + "50": { + "covertype_test_loss": 0.5178648233413696, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7927718162536621, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7893248796463013, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7910000085830688 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5616952538490295, + "std": 0.012453580761165699, + "n": 5, + "ci95": 0.015460683906242839 + }, + "lr": { + "mean": 0.00020000003278255462, + "std": 0.0002738613236419447, + "n": 5, + "ci95": 0.0003399892320268738 + }, + "covertype_test_accuracy": { + "mean": 0.7756999850273132, + "std": 0.008577571666242078, + "n": 5, + "ci95": 0.010648754503479869 + }, + "covertype_test_precision": { + "mean": 0.777271819114685, + "std": 0.006634906550682781, + "n": 5, + "ci95": 0.008237003870199707 + }, + "covertype_test_recall": { + "mean": 0.7756999850273132, + "std": 0.008577571666242078, + "n": 5, + "ci95": 0.010648754503479869 + }, + "covertype_test_f1-score": { + "mean": 0.7743877410888672, + "std": 0.008361496592650598, + "n": 5, + "ci95": 0.01038050487496874 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7756999850273132, + "std": 0.008577571666242078, + "n": 5, + "ci95": 0.010648754503479869 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5434772133827209, + "std": 0.01354590526253755, + "n": 5, + "ci95": 0.01681676647900914 + }, + "covertype_test_accuracy": { + "mean": 0.7816842079162598, + "std": 0.009410616087290196, + "n": 5, + "ci95": 0.01168294994659662 + }, + "covertype_test_precision": { + "mean": 0.782759714126587, + "std": 0.007635572408995875, + "n": 5, + "ci95": 0.009479295451059041 + }, + "covertype_test_recall": { + "mean": 0.7816842079162598, + "std": 0.009410616087290196, + "n": 5, + "ci95": 0.01168294994659662 + }, + "covertype_test_f1-score": { + "mean": 0.7803335189819336, + "std": 0.009123657140076406, + "n": 5, + "ci95": 0.011326700474093471 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7816842079162598, + "std": 0.009410616087290196, + "n": 5, + "ci95": 0.01168294994659662 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5239193916320801, + "std": 0.017788806348600108, + "n": 5, + "ci95": 0.022084179425944372 + }, + "covertype_test_accuracy": { + "mean": 0.7872222185134887, + "std": 0.010599325546710357, + "n": 5, + "ci95": 0.013158691065630054 + }, + "covertype_test_precision": { + "mean": 0.7868734478950501, + "std": 0.008345828686617185, + "n": 5, + "ci95": 0.010361053718927685 + }, + "covertype_test_recall": { + "mean": 0.7872222185134887, + "std": 0.010599325546710357, + "n": 5, + "ci95": 0.013158691065630054 + }, + "covertype_test_f1-score": { + "mean": 0.7853396773338318, + "std": 0.01039810377429086, + "n": 5, + "ci95": 0.012908881289783658 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7872222185134887, + "std": 0.010599325546710357, + "n": 5, + "ci95": 0.013158691065630054 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5010032176971435, + "std": 0.014445171318527654, + "n": 5, + "ci95": 0.017933173760249218 + }, + "covertype_test_accuracy": { + "mean": 0.7921249985694885, + "std": 0.010875716729775962, + "n": 5, + "ci95": 0.013501821029437333 + }, + "covertype_test_precision": { + "mean": 0.793705141544342, + "std": 0.007985340441009738, + "n": 5, + "ci95": 0.009913520200324552 + }, + "covertype_test_recall": { + "mean": 0.7921249985694885, + "std": 0.010875716729775962, + "n": 5, + "ci95": 0.013501821029437333 + }, + "covertype_test_f1-score": { + "mean": 0.7908775568008423, + "std": 0.010456994455136917, + "n": 5, + "ci95": 0.012981992005412012 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7921249985694885, + "std": 0.010875716729775962, + "n": 5, + "ci95": 0.013501821029437333 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5040885448455811, + "std": 0.018205735199640468, + "n": 5, + "ci95": 0.02260178197744737 + }, + "covertype_test_accuracy": { + "mean": 0.7853999972343445, + "std": 0.01415273166077024, + "n": 5, + "ci95": 0.0175701201777538 + }, + "covertype_test_precision": { + "mean": 0.7882488489151, + "std": 0.012997774585016391, + "n": 5, + "ci95": 0.016136281459720913 + }, + "covertype_test_recall": { + "mean": 0.7853999972343445, + "std": 0.01415273166077024, + "n": 5, + "ci95": 0.0175701201777538 + }, + "covertype_test_f1-score": { + "mean": 0.7840725898742675, + "std": 0.013374531222181334, + "n": 5, + "ci95": 0.016604011616090895 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7853999972343445, + "std": 0.01415273166077024, + "n": 5, + "ci95": 0.0175701201777538 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..f10c49a15f8afe0909c4a600c5c6ee799133a239 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:72e50790f6b0283dfc45a7b9da06e7f021e59e9dcdcfce76b56a2ca24b9e0a61 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..6095a4b79a58194bf88661fda0790af98f7e0258 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8a35b7e6eb94cf41a50572c1ef5a320684c31f0264d3ee43bf0cbcc160082d8c +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..3e8be8ebacdc16787128c10ad40dcaa819690fd4 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:fcfdb762f291c95cb4ba2c6a8fab7e13965b34c78ef057936e3d25474abef522 +size 11500432 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..ab0cbf601323443d054fff22b2de1ca6b2aaf78a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue1-gpu2-kl1e-8/pretrain/wjepa_joint/covertype/20260917_165654/vtjepa_config.yaml @@ -0,0 +1,130 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-08 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..591c0cd6d34b5527e305026ed35888bcfcfbf814 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "e1fb426b1a3c5b791bc2d258e1863928c0e505ccf36637c0e5691751ed46f776", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "4deb20016ca09ec340f89aa2d63521c81d4f894ca2317e43d5c4eb41b014bcb3", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 5e-08, + "start_epoch": 1, + "annealing_epochs": 20 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "5e-08", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..3e203890766818a8a91980cf80afe0f8e61778ed --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpiqq0bq30", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpiqq0bq30/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6191936731338501, + "lr": 0.0, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.736696183681488, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.7348101139068604, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5843967199325562, + "lr": 0.0, + "covertype_test_accuracy": 0.7584999799728394, + "covertype_test_precision": 0.7590435147285461, + "covertype_test_recall": 0.7584999799728394, + "covertype_test_f1-score": 0.7574412822723389, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7584999799728394 + }, + "5": { + "covertype_test_loss": 0.5692719221115112, + "covertype_test_accuracy": 0.7642105221748352, + "covertype_test_precision": 0.7644968628883362, + "covertype_test_recall": 0.7642105221748352, + "covertype_test_f1-score": 0.7631825804710388, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7642105221748352 + }, + "10": { + "covertype_test_loss": 0.5557013154029846, + "covertype_test_accuracy": 0.7683333158493042, + "covertype_test_precision": 0.7680902481079102, + "covertype_test_recall": 0.7683333158493042, + "covertype_test_f1-score": 0.7671969532966614, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7683333158493042 + }, + "20": { + "covertype_test_loss": 0.5261325240135193, + "covertype_test_accuracy": 0.7756249904632568, + "covertype_test_precision": 0.7757951617240906, + "covertype_test_recall": 0.7756249904632568, + "covertype_test_f1-score": 0.7750159502029419, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7756249904632568 + }, + "50": { + "covertype_test_loss": 0.4920785129070282, + "covertype_test_accuracy": 0.7770000100135803, + "covertype_test_precision": 0.7760250568389893, + "covertype_test_recall": 0.7770000100135803, + "covertype_test_f1-score": 0.7756792902946472, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7770000100135803 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6235183477401733, + "lr": 0.0, + "covertype_val_accuracy": 0.7577577829360962, + "covertype_val_precision": 0.7582128643989563, + "covertype_val_recall": 0.7577577829360962, + "covertype_val_f1-score": 0.754571795463562, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7577577829360962 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5788220763206482, + "lr": 0.0, + "covertype_test_accuracy": 0.7584999799728394, + "covertype_test_precision": 0.7570611834526062, + "covertype_test_recall": 0.7584999799728394, + "covertype_test_f1-score": 0.7559909224510193, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7584999799728394 + }, + "5": { + "covertype_test_loss": 0.5571442246437073, + "covertype_test_accuracy": 0.7631579041481018, + "covertype_test_precision": 0.7614251971244812, + "covertype_test_recall": 0.7631579041481018, + "covertype_test_f1-score": 0.7610355615615845, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7631579041481018 + }, + "10": { + "covertype_test_loss": 0.5462775230407715, + "covertype_test_accuracy": 0.7672222256660461, + "covertype_test_precision": 0.7647885680198669, + "covertype_test_recall": 0.7672222256660461, + "covertype_test_f1-score": 0.764809250831604, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7672222256660461 + }, + "20": { + "covertype_test_loss": 0.518224835395813, + "covertype_test_accuracy": 0.7737500071525574, + "covertype_test_precision": 0.7721161246299744, + "covertype_test_recall": 0.7737500071525574, + "covertype_test_f1-score": 0.7720971703529358, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7737500071525574 + }, + "50": { + "covertype_test_loss": 0.4968385398387909, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7774786949157715, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.778692364692688, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.781000018119812 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6109156012535095, + "lr": 0.00011474337225081399, + "covertype_val_accuracy": 0.7437437176704407, + "covertype_val_precision": 0.7397967576980591, + "covertype_val_recall": 0.7437437176704407, + "covertype_val_f1-score": 0.7394341230392456, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7437437176704407 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5826913118362427, + "lr": 0.00011474337225081399, + "covertype_test_accuracy": 0.7540000081062317, + "covertype_test_precision": 0.7556663751602173, + "covertype_test_recall": 0.7540000081062317, + "covertype_test_f1-score": 0.751200795173645, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7540000081062317 + }, + "5": { + "covertype_test_loss": 0.5658038854598999, + "covertype_test_accuracy": 0.7589473724365234, + "covertype_test_precision": 0.7593685984611511, + "covertype_test_recall": 0.7589473724365234, + "covertype_test_f1-score": 0.7556607723236084, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7589473724365234 + }, + "10": { + "covertype_test_loss": 0.5552585124969482, + "covertype_test_accuracy": 0.7627778053283691, + "covertype_test_precision": 0.7623035907745361, + "covertype_test_recall": 0.7627778053283691, + "covertype_test_f1-score": 0.7589915990829468, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7627778053283691 + }, + "20": { + "covertype_test_loss": 0.5317329168319702, + "covertype_test_accuracy": 0.768750011920929, + "covertype_test_precision": 0.7695059776306152, + "covertype_test_recall": 0.768750011920929, + "covertype_test_f1-score": 0.7657245993614197, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.768750011920929 + }, + "50": { + "covertype_test_loss": 0.5049017071723938, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.774280846118927, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7689776420593262, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7730000019073486 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.626106321811676, + "lr": 2.4471739379805513e-05, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.7565421462059021, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.7558282613754272, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5920112729072571, + "lr": 2.4471744836773723e-05, + "covertype_test_accuracy": 0.7645000219345093, + "covertype_test_precision": 0.7633848786354065, + "covertype_test_recall": 0.7645000219345093, + "covertype_test_f1-score": 0.7626901268959045, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7645000219345093 + }, + "5": { + "covertype_test_loss": 0.5691336393356323, + "covertype_test_accuracy": 0.7705262899398804, + "covertype_test_precision": 0.7682580351829529, + "covertype_test_recall": 0.7705262899398804, + "covertype_test_f1-score": 0.7682662606239319, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7705262899398804 + }, + "10": { + "covertype_test_loss": 0.553686797618866, + "covertype_test_accuracy": 0.7733333110809326, + "covertype_test_precision": 0.7713372111320496, + "covertype_test_recall": 0.7733333110809326, + "covertype_test_f1-score": 0.7710375189781189, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7733333110809326 + }, + "20": { + "covertype_test_loss": 0.5171299576759338, + "covertype_test_accuracy": 0.7793750166893005, + "covertype_test_precision": 0.778783917427063, + "covertype_test_recall": 0.7793750166893005, + "covertype_test_f1-score": 0.7776291966438293, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7793750166893005 + }, + "50": { + "covertype_test_loss": 0.4711965322494507, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.7838342785835266, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7821865081787109, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7839999794960022 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.623979389667511, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7545268535614014, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7497158646583557, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6032195091247559, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.7559999823570251, + "covertype_test_precision": 0.7546801567077637, + "covertype_test_recall": 0.7559999823570251, + "covertype_test_f1-score": 0.7541241645812988, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7559999823570251 + }, + "5": { + "covertype_test_loss": 0.5828788876533508, + "covertype_test_accuracy": 0.7605262994766235, + "covertype_test_precision": 0.759800374507904, + "covertype_test_recall": 0.7605262994766235, + "covertype_test_f1-score": 0.7587847113609314, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7605262994766235 + }, + "10": { + "covertype_test_loss": 0.5708596706390381, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.7633940577507019, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.7628024220466614, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7649999856948853 + }, + "20": { + "covertype_test_loss": 0.5408804416656494, + "covertype_test_accuracy": 0.7724999785423279, + "covertype_test_precision": 0.7703970074653625, + "covertype_test_recall": 0.7724999785423279, + "covertype_test_f1-score": 0.7708446383476257, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7724999785423279 + }, + "50": { + "covertype_test_loss": 0.501331090927124, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7838226556777954, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7819231748580933, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.588228178024292, + "std": 0.009654837163433084, + "n": 5, + "ci95": 0.011986141850507654 + }, + "lr": { + "mean": 2.8631553232116857e-05, + "std": 4.919761948036746e-05, + "n": 5, + "ci95": 6.107711977084243e-05 + }, + "covertype_test_accuracy": { + "mean": 0.758299994468689, + "std": 0.003946525921990936, + "n": 5, + "ci95": 0.004899473571325212 + }, + "covertype_test_precision": { + "mean": 0.757967221736908, + "std": 0.0034434361371169365, + "n": 5, + "ci95": 0.004274905241174634 + }, + "covertype_test_recall": { + "mean": 0.758299994468689, + "std": 0.003946525921990936, + "n": 5, + "ci95": 0.004899473571325212 + }, + "covertype_test_f1-score": { + "mean": 0.7562894582748413, + "std": 0.004271046999646319, + "n": 5, + "ci95": 0.005302355111884919 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.758299994468689, + "std": 0.003946525921990936, + "n": 5, + "ci95": 0.004899473571325212 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5688465118408204, + "std": 0.009265150942893029, + "n": 5, + "ci95": 0.011502360069674342 + }, + "covertype_test_accuracy": { + "mean": 0.7634736776351929, + "std": 0.004459721679995665, + "n": 5, + "ci95": 0.005536588112813367 + }, + "covertype_test_precision": { + "mean": 0.762669813632965, + "std": 0.0037164197095301416, + "n": 5, + "ci95": 0.004613804775824013 + }, + "covertype_test_recall": { + "mean": 0.7634736776351929, + "std": 0.004459721679995665, + "n": 5, + "ci95": 0.005536588112813367 + }, + "covertype_test_f1-score": { + "mean": 0.761385977268219, + "std": 0.004749563908111692, + "n": 5, + "ci95": 0.005896417077472009 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7634736776351929, + "std": 0.004459721679995665, + "n": 5, + "ci95": 0.005536588112813367 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5563567638397217, + "std": 0.008953908210922696, + "n": 5, + "ci95": 0.011115963129758535 + }, + "covertype_test_accuracy": { + "mean": 0.7673333287239075, + "std": 0.003975216645776115, + "n": 5, + "ci95": 0.004935092099039521 + }, + "covertype_test_precision": { + "mean": 0.765982735157013, + "std": 0.0037005206747814288, + "n": 5, + "ci95": 0.004594066681586031 + }, + "covertype_test_recall": { + "mean": 0.7673333287239075, + "std": 0.003975216645776115, + "n": 5, + "ci95": 0.004935092099039521 + }, + "covertype_test_f1-score": { + "mean": 0.7649675488471985, + "std": 0.0045343023029611774, + "n": 5, + "ci95": 0.005629177341511037 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7673333287239075, + "std": 0.003975216645776115, + "n": 5, + "ci95": 0.004935092099039521 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5268201351165771, + "std": 0.009875211005175463, + "n": 5, + "ci95": 0.012259728248968075 + }, + "covertype_test_accuracy": { + "mean": 0.7740000009536743, + "std": 0.0039181096859189565, + "n": 5, + "ci95": 0.004864195810483604 + }, + "covertype_test_precision": { + "mean": 0.7733196377754211, + "std": 0.003889755341033689, + "n": 5, + "ci95": 0.004828994885380463 + }, + "covertype_test_recall": { + "mean": 0.7740000009536743, + "std": 0.0039181096859189565, + "n": 5, + "ci95": 0.004864195810483604 + }, + "covertype_test_f1-score": { + "mean": 0.7722623109817505, + "std": 0.00450457353768787, + "n": 5, + "ci95": 0.005592270121681801 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7740000009536743, + "std": 0.0039181096859189565, + "n": 5, + "ci95": 0.004864195810483604 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.49326927661895753, + "std": 0.013244526158677541, + "n": 5, + "ci95": 0.01644261488758443 + }, + "covertype_test_accuracy": { + "mean": 0.7800000071525574, + "std": 0.005000001192124869, + "n": 5, + "ci95": 0.006207326185520647 + }, + "covertype_test_precision": { + "mean": 0.779088306427002, + "std": 0.004472816126565499, + "n": 5, + "ci95": 0.005552844409153027 + }, + "covertype_test_recall": { + "mean": 0.7800000071525574, + "std": 0.005000001192124869, + "n": 5, + "ci95": 0.006207326185520647 + }, + "covertype_test_f1-score": { + "mean": 0.7774917960166932, + "std": 0.005451944617936414, + "n": 5, + "ci95": 0.006768398104029871 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7800000071525574, + "std": 0.005000001192124869, + "n": 5, + "ci95": 0.006207326185520647 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..7f47a9de08f92c4c9c0fd1cdb59eb4a47600f6dd --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp_ijd2p68", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp_ijd2p68/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5714991092681885, + "lr": 0.0, + "covertype_val_accuracy": 0.7687687873840332, + "covertype_val_precision": 0.7587548494338989, + "covertype_val_recall": 0.7687687873840332, + "covertype_val_f1-score": 0.7617077231407166, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7687687873840332 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5786256790161133, + "lr": 0.0, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7862875461578369, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7844112515449524, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7860000133514404 + }, + "5": { + "covertype_test_loss": 0.5444374084472656, + "covertype_test_accuracy": 0.7931578755378723, + "covertype_test_precision": 0.7921043038368225, + "covertype_test_recall": 0.7931578755378723, + "covertype_test_f1-score": 0.791902482509613, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7931578755378723 + }, + "10": { + "covertype_test_loss": 0.5239300727844238, + "covertype_test_accuracy": 0.7994444370269775, + "covertype_test_precision": 0.7973588109016418, + "covertype_test_recall": 0.7994444370269775, + "covertype_test_f1-score": 0.7977038621902466, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7994444370269775 + }, + "20": { + "covertype_test_loss": 0.4766020178794861, + "covertype_test_accuracy": 0.8068749904632568, + "covertype_test_precision": 0.8062562942504883, + "covertype_test_recall": 0.8068749904632568, + "covertype_test_f1-score": 0.805923342704773, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8068749904632568 + }, + "50": { + "covertype_test_loss": 0.4473887085914612, + "covertype_test_accuracy": 0.8130000233650208, + "covertype_test_precision": 0.8127492666244507, + "covertype_test_recall": 0.8130000233650208, + "covertype_test_f1-score": 0.8117150664329529, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8130000233650208 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5634096264839172, + "lr": 4.758647264679894e-05, + "covertype_val_accuracy": 0.7647647857666016, + "covertype_val_precision": 0.757598876953125, + "covertype_val_recall": 0.7647647857666016, + "covertype_val_f1-score": 0.7597588896751404, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7647647857666016 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5459070205688477, + "lr": 4.758647264679894e-05, + "covertype_test_accuracy": 0.7854999899864197, + "covertype_test_precision": 0.7843406200408936, + "covertype_test_recall": 0.7854999899864197, + "covertype_test_f1-score": 0.7838026285171509, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7854999899864197 + }, + "5": { + "covertype_test_loss": 0.5265630483627319, + "covertype_test_accuracy": 0.7910526394844055, + "covertype_test_precision": 0.7887926697731018, + "covertype_test_recall": 0.7910526394844055, + "covertype_test_f1-score": 0.789201557636261, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7910526394844055 + }, + "10": { + "covertype_test_loss": 0.5076146125793457, + "covertype_test_accuracy": 0.7972221970558167, + "covertype_test_precision": 0.7945486903190613, + "covertype_test_recall": 0.7972221970558167, + "covertype_test_f1-score": 0.7949516177177429, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7972221970558167 + }, + "20": { + "covertype_test_loss": 0.4633159637451172, + "covertype_test_accuracy": 0.8050000071525574, + "covertype_test_precision": 0.8037642240524292, + "covertype_test_recall": 0.8050000071525574, + "covertype_test_f1-score": 0.8033377528190613, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8050000071525574 + }, + "50": { + "covertype_test_loss": 0.42474982142448425, + "covertype_test_accuracy": 0.8090000152587891, + "covertype_test_precision": 0.8077954649925232, + "covertype_test_recall": 0.8090000152587891, + "covertype_test_f1-score": 0.8073137402534485, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8090000152587891 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5506885051727295, + "lr": 0.0, + "covertype_val_accuracy": 0.781781792640686, + "covertype_val_precision": 0.7754359245300293, + "covertype_val_recall": 0.781781792640686, + "covertype_val_f1-score": 0.7775187492370605, + "covertype_val_support": 999.0, + "covertype_val_score": 0.781781792640686 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.569226086139679, + "lr": 0.0, + "covertype_test_accuracy": 0.7940000295639038, + "covertype_test_precision": 0.7928335666656494, + "covertype_test_recall": 0.7940000295639038, + "covertype_test_f1-score": 0.7912221550941467, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7940000295639038 + }, + "5": { + "covertype_test_loss": 0.5425576567649841, + "covertype_test_accuracy": 0.7994737029075623, + "covertype_test_precision": 0.7969591617584229, + "covertype_test_recall": 0.7994737029075623, + "covertype_test_f1-score": 0.7971624135971069, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7994737029075623 + }, + "10": { + "covertype_test_loss": 0.5247089266777039, + "covertype_test_accuracy": 0.8066666722297668, + "covertype_test_precision": 0.8030495047569275, + "covertype_test_recall": 0.8066666722297668, + "covertype_test_f1-score": 0.8037627339363098, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8066666722297668 + }, + "20": { + "covertype_test_loss": 0.47685638070106506, + "covertype_test_accuracy": 0.8168749809265137, + "covertype_test_precision": 0.8148334622383118, + "covertype_test_recall": 0.8168749809265137, + "covertype_test_f1-score": 0.8148769736289978, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8168749809265137 + }, + "50": { + "covertype_test_loss": 0.4328068494796753, + "covertype_test_accuracy": 0.8220000267028809, + "covertype_test_precision": 0.821699857711792, + "covertype_test_recall": 0.8220000267028809, + "covertype_test_f1-score": 0.8194031119346619, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8220000267028809 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5643277764320374, + "lr": 0.0, + "covertype_val_accuracy": 0.7757757902145386, + "covertype_val_precision": 0.7684095501899719, + "covertype_val_recall": 0.7757757902145386, + "covertype_val_f1-score": 0.7701118588447571, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7757757902145386 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5677863359451294, + "lr": 0.0, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7859670519828796, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.784042477607727, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7860000133514404 + }, + "5": { + "covertype_test_loss": 0.5442136526107788, + "covertype_test_accuracy": 0.7931578755378723, + "covertype_test_precision": 0.7935588359832764, + "covertype_test_recall": 0.7931578755378723, + "covertype_test_f1-score": 0.7918301224708557, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7931578755378723 + }, + "10": { + "covertype_test_loss": 0.5237869024276733, + "covertype_test_accuracy": 0.7988888621330261, + "covertype_test_precision": 0.798065721988678, + "covertype_test_recall": 0.7988888621330261, + "covertype_test_f1-score": 0.7968963384628296, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7988888621330261 + }, + "20": { + "covertype_test_loss": 0.4824126362800598, + "covertype_test_accuracy": 0.8043749928474426, + "covertype_test_precision": 0.8037376999855042, + "covertype_test_recall": 0.8043749928474426, + "covertype_test_f1-score": 0.8030891418457031, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8043749928474426 + }, + "50": { + "covertype_test_loss": 0.44107288122177124, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.808565616607666, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8080587387084961, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8100000023841858 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5554116368293762, + "lr": 0.0, + "covertype_val_accuracy": 0.7677677869796753, + "covertype_val_precision": 0.7611697316169739, + "covertype_val_recall": 0.7677677869796753, + "covertype_val_f1-score": 0.7616081833839417, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7677677869796753 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5460598468780518, + "lr": 0.0, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7904534935951233, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7890214920043945, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7910000085830688 + }, + "5": { + "covertype_test_loss": 0.5252423286437988, + "covertype_test_accuracy": 0.796842098236084, + "covertype_test_precision": 0.7952908277511597, + "covertype_test_recall": 0.796842098236084, + "covertype_test_f1-score": 0.7949963212013245, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.796842098236084 + }, + "10": { + "covertype_test_loss": 0.508371889591217, + "covertype_test_accuracy": 0.8022222518920898, + "covertype_test_precision": 0.7994351983070374, + "covertype_test_recall": 0.8022222518920898, + "covertype_test_f1-score": 0.7997418642044067, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8022222518920898 + }, + "20": { + "covertype_test_loss": 0.4748563766479492, + "covertype_test_accuracy": 0.8062499761581421, + "covertype_test_precision": 0.8056531548500061, + "covertype_test_recall": 0.8062499761581421, + "covertype_test_f1-score": 0.8047968745231628, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8062499761581421 + }, + "50": { + "covertype_test_loss": 0.4359826147556305, + "covertype_test_accuracy": 0.8080000281333923, + "covertype_test_precision": 0.8081748485565186, + "covertype_test_recall": 0.8080000281333923, + "covertype_test_f1-score": 0.8053789734840393, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8080000281333923 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5615209937095642, + "std": 0.014782053652199765, + "n": 5, + "ci95": 0.018351401366781747 + }, + "lr": { + "mean": 9.517294529359788e-06, + "std": 2.1281317529535355e-05, + "n": 5, + "ci95": 2.6420009613502768e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7885000109672546, + "std": 0.0038078962264670125, + "n": 5, + "ci95": 0.0047273696645358 + }, + "covertype_test_precision": { + "mean": 0.7879764556884765, + "std": 0.0035297543592481494, + "n": 5, + "ci95": 0.004382066287729297 + }, + "covertype_test_recall": { + "mean": 0.7885000109672546, + "std": 0.0038078962264670125, + "n": 5, + "ci95": 0.0047273696645358 + }, + "covertype_test_f1-score": { + "mean": 0.7865000009536743, + "std": 0.0034034824075816557, + "n": 5, + "ci95": 0.004225304086690076 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7885000109672546, + "std": 0.0038078962264670125, + "n": 5, + "ci95": 0.0047273696645358 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5366028189659119, + "std": 0.009805909040570096, + "n": 5, + "ci95": 0.012173692289560613 + }, + "covertype_test_accuracy": { + "mean": 0.7947368383407593, + "std": 0.003370073197649267, + "n": 5, + "ci95": 0.004183827723848903 + }, + "covertype_test_precision": { + "mean": 0.7933411598205566, + "std": 0.0031287817281705882, + "n": 5, + "ci95": 0.0038842728239027197 + }, + "covertype_test_recall": { + "mean": 0.7947368383407593, + "std": 0.003370073197649267, + "n": 5, + "ci95": 0.004183827723848903 + }, + "covertype_test_f1-score": { + "mean": 0.7930185794830322, + "std": 0.003094777123309479, + "n": 5, + "ci95": 0.003842057299131426 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7947368383407593, + "std": 0.003370073197649267, + "n": 5, + "ci95": 0.004183827723848903 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5176824808120728, + "std": 0.008856020407751889, + "n": 5, + "ci95": 0.01099443885395991 + }, + "covertype_test_accuracy": { + "mean": 0.8008888840675354, + "std": 0.0036976957161379722, + "n": 5, + "ci95": 0.004590559594470099 + }, + "covertype_test_precision": { + "mean": 0.7984915852546692, + "std": 0.003109501306926315, + "n": 5, + "ci95": 0.003860336856878163 + }, + "covertype_test_recall": { + "mean": 0.8008888840675354, + "std": 0.0036976957161379722, + "n": 5, + "ci95": 0.004590559594470099 + }, + "covertype_test_f1-score": { + "mean": 0.7986112833023071, + "std": 0.0033531051981210854, + "n": 5, + "ci95": 0.00416276254731393 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8008888840675354, + "std": 0.0036976957161379722, + "n": 5, + "ci95": 0.004590559594470099 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.4748086750507355, + "std": 0.0070234267260638845, + "n": 5, + "ci95": 0.008719338046848433 + }, + "covertype_test_accuracy": { + "mean": 0.8078749895095825, + "std": 0.005127280277545851, + "n": 5, + "ci95": 0.00636533870780707 + }, + "covertype_test_precision": { + "mean": 0.8068489670753479, + "std": 0.0046024182063559745, + "n": 5, + "ci95": 0.005713740847507569 + }, + "covertype_test_recall": { + "mean": 0.8078749895095825, + "std": 0.005127280277545851, + "n": 5, + "ci95": 0.00636533870780707 + }, + "covertype_test_f1-score": { + "mean": 0.8064048171043396, + "std": 0.004873277102496632, + "n": 5, + "ci95": 0.006050002671053377 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8078749895095825, + "std": 0.005127280277545851, + "n": 5, + "ci95": 0.00636533870780707 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4364001750946045, + "std": 0.008535208509651034, + "n": 5, + "ci95": 0.010596162129777424 + }, + "covertype_test_accuracy": { + "mean": 0.8124000191688537, + "std": 0.005683312809358622, + "n": 5, + "ci95": 0.007055633602168079 + }, + "covertype_test_precision": { + "mean": 0.8117970108985901, + "std": 0.005885310202259435, + "n": 5, + "ci95": 0.007306406283649633 + }, + "covertype_test_recall": { + "mean": 0.8124000191688537, + "std": 0.005683312809358622, + "n": 5, + "ci95": 0.007055633602168079 + }, + "covertype_test_f1-score": { + "mean": 0.8103739261627197, + "std": 0.005545251029900199, + "n": 5, + "ci95": 0.006884234743263478 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8124000191688537, + "std": 0.005683312809358622, + "n": 5, + "ci95": 0.007055633602168079 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..60c16c746a65bd6e48b0cc21e56a82a6acaf4057 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpru5nx1qb", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpru5nx1qb/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.585271954536438, + "lr": 0.0, + "covertype_val_accuracy": 0.7417417168617249, + "covertype_val_precision": 0.7403576374053955, + "covertype_val_recall": 0.7417417168617249, + "covertype_val_f1-score": 0.7375065684318542, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7417417168617249 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5909908413887024, + "lr": 0.0, + "covertype_test_accuracy": 0.7475000023841858, + "covertype_test_precision": 0.7521159052848816, + "covertype_test_recall": 0.7475000023841858, + "covertype_test_f1-score": 0.7443338632583618, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7475000023841858 + }, + "5": { + "covertype_test_loss": 0.5731518268585205, + "covertype_test_accuracy": 0.7552631497383118, + "covertype_test_precision": 0.7592775225639343, + "covertype_test_recall": 0.7552631497383118, + "covertype_test_f1-score": 0.753158450126648, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7552631497383118 + }, + "10": { + "covertype_test_loss": 0.5635190010070801, + "covertype_test_accuracy": 0.7594444155693054, + "covertype_test_precision": 0.7621945738792419, + "covertype_test_recall": 0.7594444155693054, + "covertype_test_f1-score": 0.7567582130432129, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7594444155693054 + }, + "20": { + "covertype_test_loss": 0.5379319190979004, + "covertype_test_accuracy": 0.768750011920929, + "covertype_test_precision": 0.7728163003921509, + "covertype_test_recall": 0.768750011920929, + "covertype_test_f1-score": 0.7664408683776855, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.768750011920929 + }, + "50": { + "covertype_test_loss": 0.5068219900131226, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.7783272862434387, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.775286853313446, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.777999997138977 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5909901261329651, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.756201446056366, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7513952255249023, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5728349089622498, + "lr": 0.0, + "covertype_test_accuracy": 0.753000020980835, + "covertype_test_precision": 0.7521750330924988, + "covertype_test_recall": 0.753000020980835, + "covertype_test_f1-score": 0.7502666711807251, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.753000020980835 + }, + "5": { + "covertype_test_loss": 0.5540023446083069, + "covertype_test_accuracy": 0.7605262994766235, + "covertype_test_precision": 0.7602348327636719, + "covertype_test_recall": 0.7605262994766235, + "covertype_test_f1-score": 0.7585623264312744, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7605262994766235 + }, + "10": { + "covertype_test_loss": 0.5431647300720215, + "covertype_test_accuracy": 0.7661111354827881, + "covertype_test_precision": 0.7643113732337952, + "covertype_test_recall": 0.7661111354827881, + "covertype_test_f1-score": 0.7633570432662964, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7661111354827881 + }, + "20": { + "covertype_test_loss": 0.5159920454025269, + "covertype_test_accuracy": 0.7743750214576721, + "covertype_test_precision": 0.773932158946991, + "covertype_test_recall": 0.7743750214576721, + "covertype_test_f1-score": 0.772102415561676, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7743750214576721 + }, + "50": { + "covertype_test_loss": 0.47956326603889465, + "covertype_test_accuracy": 0.7829999923706055, + "covertype_test_precision": 0.7799075841903687, + "covertype_test_recall": 0.7829999923706055, + "covertype_test_f1-score": 0.7800862193107605, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7829999923706055 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6087225079536438, + "lr": 0.0, + "covertype_val_accuracy": 0.7467467188835144, + "covertype_val_precision": 0.7314435243606567, + "covertype_val_recall": 0.7467467188835144, + "covertype_val_f1-score": 0.7378899455070496, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7467467188835144 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6019879579544067, + "lr": 0.0, + "covertype_test_accuracy": 0.7390000224113464, + "covertype_test_precision": 0.7292728424072266, + "covertype_test_recall": 0.7390000224113464, + "covertype_test_f1-score": 0.7314197421073914, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7390000224113464 + }, + "5": { + "covertype_test_loss": 0.5867775082588196, + "covertype_test_accuracy": 0.7457894682884216, + "covertype_test_precision": 0.7333971858024597, + "covertype_test_recall": 0.7457894682884216, + "covertype_test_f1-score": 0.7386525869369507, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7457894682884216 + }, + "10": { + "covertype_test_loss": 0.5767493844032288, + "covertype_test_accuracy": 0.7483333349227905, + "covertype_test_precision": 0.734287440776825, + "covertype_test_recall": 0.7483333349227905, + "covertype_test_f1-score": 0.740731954574585, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7483333349227905 + }, + "20": { + "covertype_test_loss": 0.5476718544960022, + "covertype_test_accuracy": 0.7537500262260437, + "covertype_test_precision": 0.7411425113677979, + "covertype_test_recall": 0.7537500262260437, + "covertype_test_f1-score": 0.7467265725135803, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7537500262260437 + }, + "50": { + "covertype_test_loss": 0.5249456763267517, + "covertype_test_accuracy": 0.7580000162124634, + "covertype_test_precision": 0.7460819482803345, + "covertype_test_recall": 0.7580000162124634, + "covertype_test_f1-score": 0.751039981842041, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7580000162124634 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5835789442062378, + "lr": 0.0, + "covertype_val_accuracy": 0.7587587833404541, + "covertype_val_precision": 0.7577813863754272, + "covertype_val_recall": 0.7587587833404541, + "covertype_val_f1-score": 0.7544061541557312, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7587587833404541 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.566794216632843, + "lr": 0.0, + "covertype_test_accuracy": 0.7565000057220459, + "covertype_test_precision": 0.7557965517044067, + "covertype_test_recall": 0.7565000057220459, + "covertype_test_f1-score": 0.7537060976028442, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7565000057220459 + }, + "5": { + "covertype_test_loss": 0.5528461933135986, + "covertype_test_accuracy": 0.7621052861213684, + "covertype_test_precision": 0.7628688216209412, + "covertype_test_recall": 0.7621052861213684, + "covertype_test_f1-score": 0.7604860067367554, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7621052861213684 + }, + "10": { + "covertype_test_loss": 0.5396990776062012, + "covertype_test_accuracy": 0.7666666507720947, + "covertype_test_precision": 0.7658659219741821, + "covertype_test_recall": 0.7666666507720947, + "covertype_test_f1-score": 0.7642046213150024, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7666666507720947 + }, + "20": { + "covertype_test_loss": 0.5106309056282043, + "covertype_test_accuracy": 0.7731249928474426, + "covertype_test_precision": 0.7741230130195618, + "covertype_test_recall": 0.7731249928474426, + "covertype_test_f1-score": 0.7717283964157104, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7731249928474426 + }, + "50": { + "covertype_test_loss": 0.48809775710105896, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7803779244422913, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7782109379768372, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5932576656341553, + "lr": 0.0, + "covertype_val_accuracy": 0.7377377152442932, + "covertype_val_precision": 0.7372550368309021, + "covertype_val_recall": 0.7377377152442932, + "covertype_val_f1-score": 0.7325303554534912, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7377377152442932 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5896874666213989, + "lr": 0.0, + "covertype_test_accuracy": 0.7490000128746033, + "covertype_test_precision": 0.7492704391479492, + "covertype_test_recall": 0.7490000128746033, + "covertype_test_f1-score": 0.7447144389152527, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7490000128746033 + }, + "5": { + "covertype_test_loss": 0.5704893469810486, + "covertype_test_accuracy": 0.7552631497383118, + "covertype_test_precision": 0.7563236355781555, + "covertype_test_recall": 0.7552631497383118, + "covertype_test_f1-score": 0.7519627213478088, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7552631497383118 + }, + "10": { + "covertype_test_loss": 0.5571163296699524, + "covertype_test_accuracy": 0.7622222304344177, + "covertype_test_precision": 0.7618006467819214, + "covertype_test_recall": 0.7622222304344177, + "covertype_test_f1-score": 0.7580183744430542, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7622222304344177 + }, + "20": { + "covertype_test_loss": 0.5290927886962891, + "covertype_test_accuracy": 0.7693750262260437, + "covertype_test_precision": 0.7707642316818237, + "covertype_test_recall": 0.7693750262260437, + "covertype_test_f1-score": 0.7654836177825928, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7693750262260437 + }, + "50": { + "covertype_test_loss": 0.5043479204177856, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.7766554951667786, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.774339497089386, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.777999997138977 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5844590783119201, + "std": 0.014356446687267668, + "n": 5, + "ci95": 0.017823025241127218 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7490000128746033, + "std": 0.0066049185895474885, + "n": 5, + "ci95": 0.008199774867794935 + }, + "covertype_test_precision": { + "mean": 0.7477261543273925, + "std": 0.010572408500292736, + "n": 5, + "ci95": 0.013125274496184404 + }, + "covertype_test_recall": { + "mean": 0.7490000128746033, + "std": 0.0066049185895474885, + "n": 5, + "ci95": 0.008199774867794935 + }, + "covertype_test_f1-score": { + "mean": 0.744888162612915, + "std": 0.008491467931279938, + "n": 5, + "ci95": 0.010541859735225926 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7490000128746033, + "std": 0.0066049185895474885, + "n": 5, + "ci95": 0.008199774867794935 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5674534440040588, + "std": 0.014225079798125814, + "n": 5, + "ci95": 0.0176599378538352 + }, + "covertype_test_accuracy": { + "mean": 0.7557894706726074, + "std": 0.006381244922365107, + "n": 5, + "ci95": 0.007922091851738975 + }, + "covertype_test_precision": { + "mean": 0.7544203996658325, + "std": 0.011983039438213732, + "n": 5, + "ci95": 0.014876523350455452 + }, + "covertype_test_recall": { + "mean": 0.7557894706726074, + "std": 0.006381244922365107, + "n": 5, + "ci95": 0.007922091851738975 + }, + "covertype_test_f1-score": { + "mean": 0.7525644183158875, + "std": 0.008558335559847684, + "n": 5, + "ci95": 0.010624873551787806 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7557894706726074, + "std": 0.006381244922365107, + "n": 5, + "ci95": 0.007922091851738975 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5560497045516968, + "std": 0.015155612767963764, + "n": 5, + "ci95": 0.018815161912434018 + }, + "covertype_test_accuracy": { + "mean": 0.7605555534362793, + "std": 0.007443202729509586, + "n": 5, + "ci95": 0.009240475238244653 + }, + "covertype_test_precision": { + "mean": 0.7576919913291931, + "std": 0.0131867039550797, + "n": 5, + "ci95": 0.01637083064900011 + }, + "covertype_test_recall": { + "mean": 0.7605555534362793, + "std": 0.007443202729509586, + "n": 5, + "ci95": 0.009240475238244653 + }, + "covertype_test_f1-score": { + "mean": 0.7566140413284301, + "std": 0.00945143634988166, + "n": 5, + "ci95": 0.011733626871490741 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7605555534362793, + "std": 0.007443202729509586, + "n": 5, + "ci95": 0.009240475238244653 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5282639026641845, + "std": 0.015267180922196793, + "n": 5, + "ci95": 0.018953669864458438 + }, + "covertype_test_accuracy": { + "mean": 0.7678750157356262, + "std": 0.00825141370467356, + "n": 5, + "ci95": 0.01024384082892934 + }, + "covertype_test_precision": { + "mean": 0.766555643081665, + "std": 0.01426896444700417, + "n": 5, + "ci95": 0.01771441910687051 + }, + "covertype_test_recall": { + "mean": 0.7678750157356262, + "std": 0.00825141370467356, + "n": 5, + "ci95": 0.01024384082892934 + }, + "covertype_test_f1-score": { + "mean": 0.7644963741302491, + "std": 0.010376362199696518, + "n": 5, + "ci95": 0.012881889887160302 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7678750157356262, + "std": 0.00825141370467356, + "n": 5, + "ci95": 0.01024384082892934 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5007553219795227, + "std": 0.01763662135767676, + "n": 5, + "ci95": 0.021895247095150214 + }, + "covertype_test_accuracy": { + "mean": 0.7753999948501586, + "std": 0.009939806674072576, + "n": 5, + "ci95": 0.012339921507251255 + }, + "covertype_test_precision": { + "mean": 0.7722700476646424, + "std": 0.014712311752238161, + "n": 5, + "ci95": 0.018264819243053166 + }, + "covertype_test_recall": { + "mean": 0.7753999948501586, + "std": 0.009939806674072576, + "n": 5, + "ci95": 0.012339921507251255 + }, + "covertype_test_f1-score": { + "mean": 0.7717926979064942, + "std": 0.01182525723844202, + "n": 5, + "ci95": 0.014680642281107992 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7753999948501586, + "std": 0.009939806674072576, + "n": 5, + "ci95": 0.012339921507251255 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..b3bda054c8bc7c4a9855bb8cf407ba25d64b951b --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmppm_4nytq", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmppm_4nytq/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.7163488268852234, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7157157063484192, + "covertype_val_precision": 0.7150012254714966, + "covertype_val_recall": 0.7157157063484192, + "covertype_val_f1-score": 0.6985940337181091, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7157157063484192 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7166121006011963, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6980000138282776, + "covertype_test_precision": 0.6887496709823608, + "covertype_test_recall": 0.6980000138282776, + "covertype_test_f1-score": 0.6839081048965454, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6980000138282776 + }, + "5": { + "covertype_test_loss": 0.6971442699432373, + "covertype_test_accuracy": 0.7042105197906494, + "covertype_test_precision": 0.6992731690406799, + "covertype_test_recall": 0.7042105197906494, + "covertype_test_f1-score": 0.6940920948982239, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7042105197906494 + }, + "10": { + "covertype_test_loss": 0.6788445115089417, + "covertype_test_accuracy": 0.7122222185134888, + "covertype_test_precision": 0.7078248262405396, + "covertype_test_recall": 0.7122222185134888, + "covertype_test_f1-score": 0.7040619254112244, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7122222185134888 + }, + "20": { + "covertype_test_loss": 0.6506035327911377, + "covertype_test_accuracy": 0.7193750143051147, + "covertype_test_precision": 0.7171239852905273, + "covertype_test_recall": 0.7193750143051147, + "covertype_test_f1-score": 0.7116851210594177, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7193750143051147 + }, + "50": { + "covertype_test_loss": 0.5913945436477661, + "covertype_test_accuracy": 0.7390000224113464, + "covertype_test_precision": 0.7301672697067261, + "covertype_test_recall": 0.7390000224113464, + "covertype_test_f1-score": 0.7304397821426392, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7390000224113464 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.7888356447219849, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6106106042861938, + "covertype_val_precision": 0.6645563244819641, + "covertype_val_recall": 0.6106106042861938, + "covertype_val_f1-score": 0.5915918350219727, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6106106042861938 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7735602259635925, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6305000185966492, + "covertype_test_precision": 0.6936728358268738, + "covertype_test_recall": 0.6305000185966492, + "covertype_test_f1-score": 0.6094961166381836, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6305000185966492 + }, + "5": { + "covertype_test_loss": 0.7624301910400391, + "covertype_test_accuracy": 0.6273684501647949, + "covertype_test_precision": 0.6913424134254456, + "covertype_test_recall": 0.6273684501647949, + "covertype_test_f1-score": 0.6067841053009033, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6273684501647949 + }, + "10": { + "covertype_test_loss": 0.7521138787269592, + "covertype_test_accuracy": 0.6383333206176758, + "covertype_test_precision": 0.7018054127693176, + "covertype_test_recall": 0.6383333206176758, + "covertype_test_f1-score": 0.6169657111167908, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6383333206176758 + }, + "20": { + "covertype_test_loss": 0.7239170074462891, + "covertype_test_accuracy": 0.6474999785423279, + "covertype_test_precision": 0.7199654579162598, + "covertype_test_recall": 0.6474999785423279, + "covertype_test_f1-score": 0.6259037256240845, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6474999785423279 + }, + "50": { + "covertype_test_loss": 0.674612283706665, + "covertype_test_accuracy": 0.656000018119812, + "covertype_test_precision": 0.7324323654174805, + "covertype_test_recall": 0.656000018119812, + "covertype_test_f1-score": 0.6321075558662415, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.656000018119812 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6910231113433838, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7207207083702087, + "covertype_val_precision": 0.7054557800292969, + "covertype_val_recall": 0.7207207083702087, + "covertype_val_f1-score": 0.7120976448059082, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7207207083702087 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6525415778160095, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7225000262260437, + "covertype_test_precision": 0.7068562507629395, + "covertype_test_recall": 0.7225000262260437, + "covertype_test_f1-score": 0.7134593725204468, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7225000262260437 + }, + "5": { + "covertype_test_loss": 0.624042272567749, + "covertype_test_accuracy": 0.7289473414421082, + "covertype_test_precision": 0.7149456143379211, + "covertype_test_recall": 0.7289473414421082, + "covertype_test_f1-score": 0.7207455039024353, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7289473414421082 + }, + "10": { + "covertype_test_loss": 0.6113354563713074, + "covertype_test_accuracy": 0.7327777743339539, + "covertype_test_precision": 0.7169128656387329, + "covertype_test_recall": 0.7327777743339539, + "covertype_test_f1-score": 0.7234786748886108, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7327777743339539 + }, + "20": { + "covertype_test_loss": 0.5798370838165283, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7260529398918152, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7316725850105286, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7400000095367432 + }, + "50": { + "covertype_test_loss": 0.5423017740249634, + "covertype_test_accuracy": 0.7540000081062317, + "covertype_test_precision": 0.7429218292236328, + "covertype_test_recall": 0.7540000081062317, + "covertype_test_f1-score": 0.7450154423713684, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7540000081062317 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.731346070766449, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6926926970481873, + "covertype_val_precision": 0.698237419128418, + "covertype_val_recall": 0.6926926970481873, + "covertype_val_f1-score": 0.6755410432815552, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6926926970481873 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.725175678730011, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6875, + "covertype_test_precision": 0.7034978866577148, + "covertype_test_recall": 0.6875, + "covertype_test_f1-score": 0.6723741888999939, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6875 + }, + "5": { + "covertype_test_loss": 0.7131041884422302, + "covertype_test_accuracy": 0.6878947615623474, + "covertype_test_precision": 0.7093921899795532, + "covertype_test_recall": 0.6878947615623474, + "covertype_test_f1-score": 0.675187885761261, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6878947615623474 + }, + "10": { + "covertype_test_loss": 0.6987108588218689, + "covertype_test_accuracy": 0.6933333277702332, + "covertype_test_precision": 0.7088072299957275, + "covertype_test_recall": 0.6933333277702332, + "covertype_test_f1-score": 0.6808147430419922, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6933333277702332 + }, + "20": { + "covertype_test_loss": 0.6736496090888977, + "covertype_test_accuracy": 0.6987500190734863, + "covertype_test_precision": 0.7208627462387085, + "covertype_test_recall": 0.6987500190734863, + "covertype_test_f1-score": 0.6873397827148438, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6987500190734863 + }, + "50": { + "covertype_test_loss": 0.6328270435333252, + "covertype_test_accuracy": 0.7149999737739563, + "covertype_test_precision": 0.7375373840332031, + "covertype_test_recall": 0.7149999737739563, + "covertype_test_f1-score": 0.7056920528411865, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7149999737739563 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6889582276344299, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7197197079658508, + "covertype_val_precision": 0.721903920173645, + "covertype_val_recall": 0.7197197079658508, + "covertype_val_f1-score": 0.712709903717041, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7197197079658508 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6703633069992065, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7110000252723694, + "covertype_test_precision": 0.7004453539848328, + "covertype_test_recall": 0.7110000252723694, + "covertype_test_f1-score": 0.7009379863739014, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7110000252723694 + }, + "5": { + "covertype_test_loss": 0.6552003622055054, + "covertype_test_accuracy": 0.7178947329521179, + "covertype_test_precision": 0.7080456614494324, + "covertype_test_recall": 0.7178947329521179, + "covertype_test_f1-score": 0.710240364074707, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7178947329521179 + }, + "10": { + "covertype_test_loss": 0.6393377780914307, + "covertype_test_accuracy": 0.7238888740539551, + "covertype_test_precision": 0.7133681178092957, + "covertype_test_recall": 0.7238888740539551, + "covertype_test_f1-score": 0.7177181839942932, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7238888740539551 + }, + "20": { + "covertype_test_loss": 0.6158937215805054, + "covertype_test_accuracy": 0.7318750023841858, + "covertype_test_precision": 0.7209091186523438, + "covertype_test_recall": 0.7318750023841858, + "covertype_test_f1-score": 0.7258851528167725, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7318750023841858 + }, + "50": { + "covertype_test_loss": 0.5773558616638184, + "covertype_test_accuracy": 0.7409999966621399, + "covertype_test_precision": 0.7285121083259583, + "covertype_test_recall": 0.7409999966621399, + "covertype_test_f1-score": 0.7335878610610962, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7409999966621399 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.7076505780220032, + "std": 0.047850972345343086, + "n": 5, + "ci95": 0.0594053045646663 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.689900016784668, + "std": 0.035734090135221955, + "n": 5, + "ci95": 0.044362620105267106 + }, + "covertype_test_precision": { + "mean": 0.6986443996429443, + "std": 0.007363022029114681, + "n": 5, + "ci95": 0.009140933709750903 + }, + "covertype_test_recall": { + "mean": 0.689900016784668, + "std": 0.035734090135221955, + "n": 5, + "ci95": 0.044362620105267106 + }, + "covertype_test_f1-score": { + "mean": 0.6760351538658143, + "std": 0.040384256543945625, + "n": 5, + "ci95": 0.0501356386720151 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.689900016784668, + "std": 0.035734090135221955, + "n": 5, + "ci95": 0.044362620105267106 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6903842568397522, + "std": 0.053365895061249405, + "n": 5, + "ci95": 0.06625188776938346 + }, + "covertype_test_accuracy": { + "mean": 0.6932631611824036, + "std": 0.039908809690737415, + "n": 5, + "ci95": 0.049545388072397036 + }, + "covertype_test_precision": { + "mean": 0.7045998096466064, + "std": 0.009300646930765611, + "n": 5, + "ci95": 0.011546427094168142 + }, + "covertype_test_recall": { + "mean": 0.6932631611824036, + "std": 0.039908809690737415, + "n": 5, + "ci95": 0.049545388072397036 + }, + "covertype_test_f1-score": { + "mean": 0.6814099907875061, + "std": 0.04513049455796595, + "n": 5, + "ci95": 0.056027926768574834 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6932631611824036, + "std": 0.039908809690737415, + "n": 5, + "ci95": 0.049545388072397036 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6760684967041015, + "std": 0.054412303636221675, + "n": 5, + "ci95": 0.06755096732928619 + }, + "covertype_test_accuracy": { + "mean": 0.7001111030578613, + "std": 0.037555311090639976, + "n": 5, + "ci95": 0.046623602071429585 + }, + "covertype_test_precision": { + "mean": 0.7097436904907226, + "std": 0.005746929552855568, + "n": 5, + "ci95": 0.00713461155888699 + }, + "covertype_test_recall": { + "mean": 0.7001111030578613, + "std": 0.037555311090639976, + "n": 5, + "ci95": 0.046623602071429585 + }, + "covertype_test_f1-score": { + "mean": 0.6886078476905823, + "std": 0.04328840202729605, + "n": 5, + "ci95": 0.053741033473471464 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7001111030578613, + "std": 0.037555311090639976, + "n": 5, + "ci95": 0.046623602071429585 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6487801909446717, + "std": 0.055004603480168036, + "n": 5, + "ci95": 0.06828628682016928 + }, + "covertype_test_accuracy": { + "mean": 0.7075000047683716, + "std": 0.036972868657298874, + "n": 5, + "ci95": 0.04590052021022305 + }, + "covertype_test_precision": { + "mean": 0.7209828495979309, + "std": 0.00322690239371522, + "n": 5, + "ci95": 0.004006086190174553 + }, + "covertype_test_recall": { + "mean": 0.7075000047683716, + "std": 0.036972868657298874, + "n": 5, + "ci95": 0.04590052021022305 + }, + "covertype_test_f1-score": { + "mean": 0.6964972734451294, + "std": 0.04300851468976061, + "n": 5, + "ci95": 0.053393563156461175 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7075000047683716, + "std": 0.036972868657298874, + "n": 5, + "ci95": 0.04590052021022305 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6036983013153077, + "std": 0.05121551684951885, + "n": 5, + "ci95": 0.06358226860939771 + }, + "covertype_test_accuracy": { + "mean": 0.7210000038146973, + "std": 0.03896793286615241, + "n": 5, + "ci95": 0.04837732248077384 + }, + "covertype_test_precision": { + "mean": 0.7343141913414002, + "std": 0.005892427263239707, + "n": 5, + "ci95": 0.007315241865340368 + }, + "covertype_test_recall": { + "mean": 0.7210000038146973, + "std": 0.03896793286615241, + "n": 5, + "ci95": 0.04837732248077384 + }, + "covertype_test_f1-score": { + "mean": 0.7093685388565063, + "std": 0.04550838009068732, + "n": 5, + "ci95": 0.05649705840920029 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7210000038146973, + "std": 0.03896793286615241, + "n": 5, + "ci95": 0.04837732248077384 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..2c81cbb71d414a87cb477c4032c44807c323f6ae --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp51kgoxcs", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp51kgoxcs/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5843441486358643, + "lr": 0.0, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.7558128237724304, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.7569906115531921, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5522415041923523, + "lr": 0.0, + "covertype_test_accuracy": 0.7764999866485596, + "covertype_test_precision": 0.7775174379348755, + "covertype_test_recall": 0.7764999866485596, + "covertype_test_f1-score": 0.7765164971351624, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7764999866485596 + }, + "5": { + "covertype_test_loss": 0.5243703126907349, + "covertype_test_accuracy": 0.7826315760612488, + "covertype_test_precision": 0.7832605838775635, + "covertype_test_recall": 0.7826315760612488, + "covertype_test_f1-score": 0.7822746634483337, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7826315760612488 + }, + "10": { + "covertype_test_loss": 0.5073262453079224, + "covertype_test_accuracy": 0.7877777814865112, + "covertype_test_precision": 0.7869569063186646, + "covertype_test_recall": 0.7877777814865112, + "covertype_test_f1-score": 0.7869461178779602, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7877777814865112 + }, + "20": { + "covertype_test_loss": 0.4808521568775177, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7904122471809387, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7900078296661377, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7900000214576721 + }, + "50": { + "covertype_test_loss": 0.4485752284526825, + "covertype_test_accuracy": 0.7879999876022339, + "covertype_test_precision": 0.7874968647956848, + "covertype_test_recall": 0.7879999876022339, + "covertype_test_f1-score": 0.7874121069908142, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7879999876022339 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5857626795768738, + "lr": 0.0, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7630859613418579, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7633250951766968, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5561634302139282, + "lr": 0.0, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7842854261398315, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.7836451530456543, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5330266952514648, + "covertype_test_accuracy": 0.7931578755378723, + "covertype_test_precision": 0.7918769717216492, + "covertype_test_recall": 0.7931578755378723, + "covertype_test_f1-score": 0.7911306023597717, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7931578755378723 + }, + "10": { + "covertype_test_loss": 0.5191385746002197, + "covertype_test_accuracy": 0.7972221970558167, + "covertype_test_precision": 0.7951650619506836, + "covertype_test_recall": 0.7972221970558167, + "covertype_test_f1-score": 0.7950115203857422, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7972221970558167 + }, + "20": { + "covertype_test_loss": 0.4852634072303772, + "covertype_test_accuracy": 0.8037499785423279, + "covertype_test_precision": 0.8028225302696228, + "covertype_test_recall": 0.8037499785423279, + "covertype_test_f1-score": 0.8026795387268066, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8037499785423279 + }, + "50": { + "covertype_test_loss": 0.4541744887828827, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7995356917381287, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7981582880020142, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.800000011920929 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6086344122886658, + "lr": 0.0, + "covertype_val_accuracy": 0.7577577829360962, + "covertype_val_precision": 0.7590612769126892, + "covertype_val_recall": 0.7577577829360962, + "covertype_val_f1-score": 0.7553930878639221, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7577577829360962 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5691348910331726, + "lr": 0.0, + "covertype_test_accuracy": 0.7695000171661377, + "covertype_test_precision": 0.7769678235054016, + "covertype_test_recall": 0.7695000171661377, + "covertype_test_f1-score": 0.7681133151054382, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7695000171661377 + }, + "5": { + "covertype_test_loss": 0.549606204032898, + "covertype_test_accuracy": 0.7731578946113586, + "covertype_test_precision": 0.7830000519752502, + "covertype_test_recall": 0.7731578946113586, + "covertype_test_f1-score": 0.7716914415359497, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7731578946113586 + }, + "10": { + "covertype_test_loss": 0.537234902381897, + "covertype_test_accuracy": 0.7755555510520935, + "covertype_test_precision": 0.7850354313850403, + "covertype_test_recall": 0.7755555510520935, + "covertype_test_f1-score": 0.7738742232322693, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7755555510520935 + }, + "20": { + "covertype_test_loss": 0.5039958357810974, + "covertype_test_accuracy": 0.7806249856948853, + "covertype_test_precision": 0.79039067029953, + "covertype_test_recall": 0.7806249856948853, + "covertype_test_f1-score": 0.7800151705741882, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7806249856948853 + }, + "50": { + "covertype_test_loss": 0.4705720841884613, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7828434705734253, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7744698524475098, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7749999761581421 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5793055295944214, + "lr": 0.0, + "covertype_val_accuracy": 0.7787787914276123, + "covertype_val_precision": 0.7671511173248291, + "covertype_val_recall": 0.7787787914276123, + "covertype_val_f1-score": 0.7710661888122559, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7787787914276123 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5876860618591309, + "lr": 0.0, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7669690251350403, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7678276896476746, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7699999809265137 + }, + "5": { + "covertype_test_loss": 0.5657217502593994, + "covertype_test_accuracy": 0.7757894992828369, + "covertype_test_precision": 0.7742714285850525, + "covertype_test_recall": 0.7757894992828369, + "covertype_test_f1-score": 0.7743415832519531, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7757894992828369 + }, + "10": { + "covertype_test_loss": 0.5528735518455505, + "covertype_test_accuracy": 0.7805555462837219, + "covertype_test_precision": 0.7788770198822021, + "covertype_test_recall": 0.7805555462837219, + "covertype_test_f1-score": 0.7787033319473267, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7805555462837219 + }, + "20": { + "covertype_test_loss": 0.5230639576911926, + "covertype_test_accuracy": 0.7856249809265137, + "covertype_test_precision": 0.7841647863388062, + "covertype_test_recall": 0.7856249809265137, + "covertype_test_f1-score": 0.7840204238891602, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7856249809265137 + }, + "50": { + "covertype_test_loss": 0.49969592690467834, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.775775134563446, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.7757272720336914, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.777999997138977 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5715478658676147, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7897897958755493, + "covertype_val_precision": 0.7840191721916199, + "covertype_val_recall": 0.7897897958755493, + "covertype_val_f1-score": 0.7861254811286926, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7897897958755493 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5640506148338318, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7764581441879272, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7762046456336975, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7789999842643738 + }, + "5": { + "covertype_test_loss": 0.5360425710678101, + "covertype_test_accuracy": 0.7842105031013489, + "covertype_test_precision": 0.7808865904808044, + "covertype_test_recall": 0.7842105031013489, + "covertype_test_f1-score": 0.7820791006088257, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7842105031013489 + }, + "10": { + "covertype_test_loss": 0.5191553831100464, + "covertype_test_accuracy": 0.7905555367469788, + "covertype_test_precision": 0.7889212369918823, + "covertype_test_recall": 0.7905555367469788, + "covertype_test_f1-score": 0.7892492413520813, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7905555367469788 + }, + "20": { + "covertype_test_loss": 0.4937267005443573, + "covertype_test_accuracy": 0.7962499856948853, + "covertype_test_precision": 0.7958163619041443, + "covertype_test_recall": 0.7962499856948853, + "covertype_test_f1-score": 0.795306384563446, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7962499856948853 + }, + "50": { + "covertype_test_loss": 0.4720720052719116, + "covertype_test_accuracy": 0.7990000247955322, + "covertype_test_precision": 0.8002136945724487, + "covertype_test_recall": 0.7990000247955322, + "covertype_test_f1-score": 0.7970842719078064, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7990000247955322 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5658553004264831, + "std": 0.013873198491033283, + "n": 5, + "ci95": 0.017223089547648607 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7762999892234802, + "std": 0.007023166124255847, + "n": 5, + "ci95": 0.008719014518840166 + }, + "covertype_test_precision": { + "mean": 0.7764395713806153, + "std": 0.006178387221953571, + "n": 5, + "ci95": 0.007670251128644287 + }, + "covertype_test_recall": { + "mean": 0.7762999892234802, + "std": 0.007023166124255847, + "n": 5, + "ci95": 0.008719014518840166 + }, + "covertype_test_f1-score": { + "mean": 0.7744614601135253, + "std": 0.006631514616340812, + "n": 5, + "ci95": 0.008232792902631613 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7762999892234802, + "std": 0.007023166124255847, + "n": 5, + "ci95": 0.008719014518840166 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5417535066604614, + "std": 0.01617937740259067, + "n": 5, + "ci95": 0.02008612981426944 + }, + "covertype_test_accuracy": { + "mean": 0.7817894697189331, + "std": 0.00784721177658597, + "n": 5, + "ci95": 0.009742038306080388 + }, + "covertype_test_precision": { + "mean": 0.7826591253280639, + "std": 0.0063036103135174475, + "n": 5, + "ci95": 0.007825711206637982 + }, + "covertype_test_recall": { + "mean": 0.7817894697189331, + "std": 0.00784721177658597, + "n": 5, + "ci95": 0.009742038306080388 + }, + "covertype_test_f1-score": { + "mean": 0.7803034782409668, + "std": 0.007648143413070562, + "n": 5, + "ci95": 0.00949490191189229 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7817894697189331, + "std": 0.00784721177658597, + "n": 5, + "ci95": 0.009742038306080388 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5271457314491272, + "std": 0.017919851915860877, + "n": 5, + "ci95": 0.02224686790338621 + }, + "covertype_test_accuracy": { + "mean": 0.7863333225250244, + "std": 0.0084856378574641, + "n": 5, + "ci95": 0.010534621902979492 + }, + "covertype_test_precision": { + "mean": 0.7869911313056945, + "std": 0.005920371353875946, + "n": 5, + "ci95": 0.007349933474176399 + }, + "covertype_test_recall": { + "mean": 0.7863333225250244, + "std": 0.0084856378574641, + "n": 5, + "ci95": 0.010534621902979492 + }, + "covertype_test_f1-score": { + "mean": 0.784756886959076, + "std": 0.008444071659970713, + "n": 5, + "ci95": 0.010483018926056286 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7863333225250244, + "std": 0.0084856378574641, + "n": 5, + "ci95": 0.010534621902979492 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.4973804116249084, + "std": 0.01685795791649382, + "n": 5, + "ci95": 0.020928563731999174 + }, + "covertype_test_accuracy": { + "mean": 0.7912499904632568, + "std": 0.009046318801376033, + "n": 5, + "ci95": 0.011230687637993432 + }, + "covertype_test_precision": { + "mean": 0.7927213191986084, + "std": 0.006992705965946066, + "n": 5, + "ci95": 0.008681199300197976 + }, + "covertype_test_recall": { + "mean": 0.7912499904632568, + "std": 0.009046318801376033, + "n": 5, + "ci95": 0.011230687637993432 + }, + "covertype_test_f1-score": { + "mean": 0.7904058694839478, + "std": 0.008993844835515602, + "n": 5, + "ci95": 0.011165543049056816 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7912499904632568, + "std": 0.009046318801376033, + "n": 5, + "ci95": 0.011230687637993432 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4690179467201233, + "std": 0.01994438554336022, + "n": 5, + "ci95": 0.024760255424020612 + }, + "covertype_test_accuracy": { + "mean": 0.7879999995231628, + "std": 0.011554236330392575, + "n": 5, + "ci95": 0.014344179325457382 + }, + "covertype_test_precision": { + "mean": 0.7891729712486267, + "std": 0.010626117434633318, + "n": 5, + "ci95": 0.0131919522551925 + }, + "covertype_test_recall": { + "mean": 0.7879999995231628, + "std": 0.011554236330392575, + "n": 5, + "ci95": 0.014344179325457382 + }, + "covertype_test_f1-score": { + "mean": 0.7865703582763672, + "std": 0.01128633905053457, + "n": 5, + "ci95": 0.014011594244695502 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7879999995231628, + "std": 0.011554236330392575, + "n": 5, + "ci95": 0.014344179325457382 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..6f33cd87ec9368329978d3b26f99ade0ed1c3a6b --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:4fbab27c273f485109922c5d9ac168086e47a483f3aba75a6ab5dde589fd99bc +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..66d9ece40ec5a95989349d42d174346895d7546d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:61996156c9e6366283cf1392820e9684831bfd56e4b84ed3c1ee7342349fae30 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..c98b329eab682149c76f0fa80694e6be64eaf643 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:045ddc6f87ee73a05865ec95fbd6647974d1727decfbbdb956d937737694fe2b +size 11493840 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..0b05c67793bb74b4b60bc767846040257fcabe5e --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue2-gpu2-kl5e-8/pretrain/wjepa_joint/covertype/20260917_164713/vtjepa_config.yaml @@ -0,0 +1,130 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 5.0e-08 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..7fda8154f6e1eec44f783c3eda2ec53472e998fa --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "e1fb426b1a3c5b791bc2d258e1863928c0e505ccf36637c0e5691751ed46f776", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "4deb20016ca09ec340f89aa2d63521c81d4f894ca2317e43d5c4eb41b014bcb3", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 1e-07, + "start_epoch": 1, + "annealing_epochs": 20 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "1e-07", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..556fda594189eeac4f1ce6bd120f73acc4524468 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpld2hbdmt", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpld2hbdmt/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6109797954559326, + "lr": 0.0, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.7440333366394043, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7439824938774109, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5939509272575378, + "lr": 0.0, + "covertype_test_accuracy": 0.7475000023841858, + "covertype_test_precision": 0.7491077780723572, + "covertype_test_recall": 0.7475000023841858, + "covertype_test_f1-score": 0.7470961213111877, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7475000023841858 + }, + "5": { + "covertype_test_loss": 0.5791097283363342, + "covertype_test_accuracy": 0.7510526180267334, + "covertype_test_precision": 0.7525550723075867, + "covertype_test_recall": 0.7510526180267334, + "covertype_test_f1-score": 0.7506141662597656, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7510526180267334 + }, + "10": { + "covertype_test_loss": 0.5613797903060913, + "covertype_test_accuracy": 0.757777750492096, + "covertype_test_precision": 0.7587494254112244, + "covertype_test_recall": 0.757777750492096, + "covertype_test_f1-score": 0.7570772767066956, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.757777750492096 + }, + "20": { + "covertype_test_loss": 0.5316867828369141, + "covertype_test_accuracy": 0.762499988079071, + "covertype_test_precision": 0.7638921737670898, + "covertype_test_recall": 0.762499988079071, + "covertype_test_f1-score": 0.7624265551567078, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.762499988079071 + }, + "50": { + "covertype_test_loss": 0.5080320239067078, + "covertype_test_accuracy": 0.7710000276565552, + "covertype_test_precision": 0.7698231935501099, + "covertype_test_recall": 0.7710000276565552, + "covertype_test_f1-score": 0.7700786590576172, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7710000276565552 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6072161197662354, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7557557821273804, + "covertype_val_precision": 0.7563239336013794, + "covertype_val_recall": 0.7557557821273804, + "covertype_val_f1-score": 0.7540062665939331, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7557557821273804 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.597342848777771, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7429999709129333, + "covertype_test_precision": 0.7443254590034485, + "covertype_test_recall": 0.7429999709129333, + "covertype_test_f1-score": 0.7421572208404541, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7429999709129333 + }, + "5": { + "covertype_test_loss": 0.5807632207870483, + "covertype_test_accuracy": 0.7494736909866333, + "covertype_test_precision": 0.7520785331726074, + "covertype_test_recall": 0.7494736909866333, + "covertype_test_f1-score": 0.748935878276825, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7494736909866333 + }, + "10": { + "covertype_test_loss": 0.5644314289093018, + "covertype_test_accuracy": 0.7522222399711609, + "covertype_test_precision": 0.7553693056106567, + "covertype_test_recall": 0.7522222399711609, + "covertype_test_f1-score": 0.7517871856689453, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7522222399711609 + }, + "20": { + "covertype_test_loss": 0.5327902436256409, + "covertype_test_accuracy": 0.7556250095367432, + "covertype_test_precision": 0.7561736106872559, + "covertype_test_recall": 0.7556250095367432, + "covertype_test_f1-score": 0.7548268437385559, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7556250095367432 + }, + "50": { + "covertype_test_loss": 0.5067886114120483, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7610566020011902, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7608778476715088, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7620000243186951 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6310383677482605, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7457457184791565, + "covertype_val_precision": 0.7478812336921692, + "covertype_val_recall": 0.7457457184791565, + "covertype_val_f1-score": 0.7445992827415466, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7457457184791565 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5879529714584351, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7634999752044678, + "covertype_test_precision": 0.7627580761909485, + "covertype_test_recall": 0.7634999752044678, + "covertype_test_f1-score": 0.7623487114906311, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7634999752044678 + }, + "5": { + "covertype_test_loss": 0.570259690284729, + "covertype_test_accuracy": 0.7678947448730469, + "covertype_test_precision": 0.7681410908699036, + "covertype_test_recall": 0.7678947448730469, + "covertype_test_f1-score": 0.7669867277145386, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7678947448730469 + }, + "10": { + "covertype_test_loss": 0.5507215857505798, + "covertype_test_accuracy": 0.772777795791626, + "covertype_test_precision": 0.7724103331565857, + "covertype_test_recall": 0.772777795791626, + "covertype_test_f1-score": 0.7715702652931213, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.772777795791626 + }, + "20": { + "covertype_test_loss": 0.5202451944351196, + "covertype_test_accuracy": 0.7806249856948853, + "covertype_test_precision": 0.7800747752189636, + "covertype_test_recall": 0.7806249856948853, + "covertype_test_f1-score": 0.7798428535461426, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7806249856948853 + }, + "50": { + "covertype_test_loss": 0.4955238997936249, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.779303789138794, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7795749306678772, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6313763856887817, + "lr": 2.4471739379805513e-05, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.748685359954834, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7498599290847778, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5978365540504456, + "lr": 2.4471744836773723e-05, + "covertype_test_accuracy": 0.7584999799728394, + "covertype_test_precision": 0.7615603804588318, + "covertype_test_recall": 0.7584999799728394, + "covertype_test_f1-score": 0.7576595544815063, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7584999799728394 + }, + "5": { + "covertype_test_loss": 0.5826691389083862, + "covertype_test_accuracy": 0.7636842131614685, + "covertype_test_precision": 0.7660481929779053, + "covertype_test_recall": 0.7636842131614685, + "covertype_test_f1-score": 0.7626734972000122, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7636842131614685 + }, + "10": { + "covertype_test_loss": 0.5627055168151855, + "covertype_test_accuracy": 0.7705555558204651, + "covertype_test_precision": 0.7715281844139099, + "covertype_test_recall": 0.7705555558204651, + "covertype_test_f1-score": 0.7690187692642212, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7705555558204651 + }, + "20": { + "covertype_test_loss": 0.5338402986526489, + "covertype_test_accuracy": 0.7787500023841858, + "covertype_test_precision": 0.7811142206192017, + "covertype_test_recall": 0.7787500023841858, + "covertype_test_f1-score": 0.7779958844184875, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7787500023841858 + }, + "50": { + "covertype_test_loss": 0.5028709173202515, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7812485098838806, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7793372273445129, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5842323899269104, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.7627627849578857, + "covertype_val_precision": 0.7560669183731079, + "covertype_val_recall": 0.7627627849578857, + "covertype_val_f1-score": 0.7572336792945862, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7627627849578857 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.578658401966095, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.759793221950531, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7589232921600342, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7599999904632568 + }, + "5": { + "covertype_test_loss": 0.5606774091720581, + "covertype_test_accuracy": 0.7668421268463135, + "covertype_test_precision": 0.767419159412384, + "covertype_test_recall": 0.7668421268463135, + "covertype_test_f1-score": 0.7660011053085327, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7668421268463135 + }, + "10": { + "covertype_test_loss": 0.5433850288391113, + "covertype_test_accuracy": 0.769444465637207, + "covertype_test_precision": 0.7700586318969727, + "covertype_test_recall": 0.769444465637207, + "covertype_test_f1-score": 0.7685872316360474, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.769444465637207 + }, + "20": { + "covertype_test_loss": 0.5184981822967529, + "covertype_test_accuracy": 0.7737500071525574, + "covertype_test_precision": 0.7734377384185791, + "covertype_test_recall": 0.7737500071525574, + "covertype_test_f1-score": 0.7731181383132935, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7737500071525574 + }, + "50": { + "covertype_test_loss": 0.4910915493965149, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7793224453926086, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.7789888978004456, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.781000018119812 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5911483407020569, + "std": 0.00801822258555131, + "n": 5, + "ci95": 0.009954342229961357 + }, + "lr": { + "mean": 6.0775331348850156e-06, + "std": 1.0388402581357583e-05, + "n": 5, + "ci95": 1.2896837598870072e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7544999837875366, + "std": 0.008782082955989657, + "n": 5, + "ci95": 0.010902648099762243 + }, + "covertype_test_precision": { + "mean": 0.7555089831352234, + "std": 0.008269977330503706, + "n": 5, + "ci95": 0.010266886919577311 + }, + "covertype_test_recall": { + "mean": 0.7544999837875366, + "std": 0.008782082955989657, + "n": 5, + "ci95": 0.010902648099762243 + }, + "covertype_test_f1-score": { + "mean": 0.7536369800567627, + "std": 0.008581785508063483, + "n": 5, + "ci95": 0.010653985840368517 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7544999837875366, + "std": 0.008782082955989657, + "n": 5, + "ci95": 0.010902648099762243 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5746958374977111, + "std": 0.009166035709580274, + "n": 5, + "ci95": 0.01137931198238683 + }, + "covertype_test_accuracy": { + "mean": 0.7597894787788391, + "std": 0.008850880644154952, + "n": 5, + "ci95": 0.010988058017648728 + }, + "covertype_test_precision": { + "mean": 0.7612484097480774, + "std": 0.008189717268985038, + "n": 5, + "ci95": 0.010167246867030725 + }, + "covertype_test_recall": { + "mean": 0.7597894787788391, + "std": 0.008850880644154952, + "n": 5, + "ci95": 0.010988058017648728 + }, + "covertype_test_f1-score": { + "mean": 0.7590422749519348, + "std": 0.008629856524383426, + "n": 5, + "ci95": 0.01071366432181315 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7597894787788391, + "std": 0.008850880644154952, + "n": 5, + "ci95": 0.010988058017648728 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5565246701240539, + "std": 0.009091450016801781, + "n": 5, + "ci95": 0.011286716459694087 + }, + "covertype_test_accuracy": { + "mean": 0.764555561542511, + "std": 0.009021585146849127, + "n": 5, + "ci95": 0.011199981673032804 + }, + "covertype_test_precision": { + "mean": 0.7656231760978699, + "std": 0.007952958581067059, + "n": 5, + "ci95": 0.00987331925647785 + }, + "covertype_test_recall": { + "mean": 0.764555561542511, + "std": 0.009021585146849127, + "n": 5, + "ci95": 0.011199981673032804 + }, + "covertype_test_f1-score": { + "mean": 0.7636081457138062, + "std": 0.008658071933041946, + "n": 5, + "ci95": 0.010748692762461733 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.764555561542511, + "std": 0.009021585146849127, + "n": 5, + "ci95": 0.011199981673032804 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5274121403694153, + "std": 0.007405091902201027, + "n": 5, + "ci95": 0.00919316198226446 + }, + "covertype_test_accuracy": { + "mean": 0.7702499985694885, + "std": 0.01079459876041109, + "n": 5, + "ci95": 0.013401115914376982 + }, + "covertype_test_precision": { + "mean": 0.7709385037422181, + "std": 0.01073447340892545, + "n": 5, + "ci95": 0.013326472398435773 + }, + "covertype_test_recall": { + "mean": 0.7702499985694885, + "std": 0.01079459876041109, + "n": 5, + "ci95": 0.013401115914376982 + }, + "covertype_test_f1-score": { + "mean": 0.7696420550346375, + "std": 0.010694389122840302, + "n": 5, + "ci95": 0.013276709162571721 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7702499985694885, + "std": 0.01079459876041109, + "n": 5, + "ci95": 0.013401115914376982 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5008614003658295, + "std": 0.007323365542263129, + "n": 5, + "ci95": 0.009091701571637195 + }, + "covertype_test_accuracy": { + "mean": 0.7752000093460083, + "std": 0.008584857781872915, + "n": 5, + "ci95": 0.01065779996059241 + }, + "covertype_test_precision": { + "mean": 0.7741509079933167, + "std": 0.008571214871387954, + "n": 5, + "ci95": 0.010640862765530659 + }, + "covertype_test_recall": { + "mean": 0.7752000093460083, + "std": 0.008584857781872915, + "n": 5, + "ci95": 0.01065779996059241 + }, + "covertype_test_f1-score": { + "mean": 0.7737715125083924, + "std": 0.008242598388726914, + "n": 5, + "ci95": 0.010232896923236789 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7752000093460083, + "std": 0.008584857781872915, + "n": 5, + "ci95": 0.01065779996059241 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..97ec317618fc2b7e6577a22f3643d8a715b9afde --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp3l0znj_o", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp3l0znj_o/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5684962272644043, + "lr": 0.0, + "covertype_val_accuracy": 0.7757757902145386, + "covertype_val_precision": 0.7695592641830444, + "covertype_val_recall": 0.7757757902145386, + "covertype_val_f1-score": 0.7696642279624939, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7757757902145386 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5587407350540161, + "lr": 0.0, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7866018414497375, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7852408289909363, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7870000004768372 + }, + "5": { + "covertype_test_loss": 0.543656587600708, + "covertype_test_accuracy": 0.7926315665245056, + "covertype_test_precision": 0.7913403511047363, + "covertype_test_recall": 0.7926315665245056, + "covertype_test_f1-score": 0.7911720871925354, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7926315665245056 + }, + "10": { + "covertype_test_loss": 0.5194593667984009, + "covertype_test_accuracy": 0.7994444370269775, + "covertype_test_precision": 0.7967221736907959, + "covertype_test_recall": 0.7994444370269775, + "covertype_test_f1-score": 0.7971345782279968, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7994444370269775 + }, + "20": { + "covertype_test_loss": 0.47986000776290894, + "covertype_test_accuracy": 0.8031250238418579, + "covertype_test_precision": 0.8017071485519409, + "covertype_test_recall": 0.8031250238418579, + "covertype_test_f1-score": 0.8015655875205994, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8031250238418579 + }, + "50": { + "covertype_test_loss": 0.4406280815601349, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8096966743469238, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8068069219589233, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8100000023841858 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5744432210922241, + "lr": 1.5708421415183693e-05, + "covertype_val_accuracy": 0.7697697877883911, + "covertype_val_precision": 0.7664703726768494, + "covertype_val_recall": 0.7697697877883911, + "covertype_val_f1-score": 0.7654963135719299, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7697697877883911 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5633460879325867, + "lr": 1.5708415958215483e-05, + "covertype_test_accuracy": 0.7879999876022339, + "covertype_test_precision": 0.7883714437484741, + "covertype_test_recall": 0.7879999876022339, + "covertype_test_f1-score": 0.7860314846038818, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7879999876022339 + }, + "5": { + "covertype_test_loss": 0.5548895597457886, + "covertype_test_accuracy": 0.7942105531692505, + "covertype_test_precision": 0.794791579246521, + "covertype_test_recall": 0.7942105531692505, + "covertype_test_f1-score": 0.7924655675888062, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7942105531692505 + }, + "10": { + "covertype_test_loss": 0.5155015587806702, + "covertype_test_accuracy": 0.8005555272102356, + "covertype_test_precision": 0.8007351756095886, + "covertype_test_recall": 0.8005555272102356, + "covertype_test_f1-score": 0.7984729409217834, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8005555272102356 + }, + "20": { + "covertype_test_loss": 0.47073614597320557, + "covertype_test_accuracy": 0.8037499785423279, + "covertype_test_precision": 0.8033773303031921, + "covertype_test_recall": 0.8037499785423279, + "covertype_test_f1-score": 0.8023122549057007, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8037499785423279 + }, + "50": { + "covertype_test_loss": 0.43976733088493347, + "covertype_test_accuracy": 0.8040000200271606, + "covertype_test_precision": 0.8053968548774719, + "covertype_test_recall": 0.8040000200271606, + "covertype_test_f1-score": 0.8019081354141235, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8040000200271606 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5773428082466125, + "lr": 0.0, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7680572867393494, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7647443413734436, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5766292810440063, + "lr": 0.0, + "covertype_test_accuracy": 0.7875000238418579, + "covertype_test_precision": 0.7875819206237793, + "covertype_test_recall": 0.7875000238418579, + "covertype_test_f1-score": 0.7854700088500977, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7875000238418579 + }, + "5": { + "covertype_test_loss": 0.5678400993347168, + "covertype_test_accuracy": 0.7921052575111389, + "covertype_test_precision": 0.7915316224098206, + "covertype_test_recall": 0.7921052575111389, + "covertype_test_f1-score": 0.7903956174850464, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7921052575111389 + }, + "10": { + "covertype_test_loss": 0.5413002967834473, + "covertype_test_accuracy": 0.7983333468437195, + "covertype_test_precision": 0.7966331839561462, + "covertype_test_recall": 0.7983333468437195, + "covertype_test_f1-score": 0.7960720658302307, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7983333468437195 + }, + "20": { + "covertype_test_loss": 0.5055712461471558, + "covertype_test_accuracy": 0.8068749904632568, + "covertype_test_precision": 0.8076158761978149, + "covertype_test_recall": 0.8068749904632568, + "covertype_test_f1-score": 0.8054097294807434, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8068749904632568 + }, + "50": { + "covertype_test_loss": 0.46354061365127563, + "covertype_test_accuracy": 0.8180000185966492, + "covertype_test_precision": 0.8164663910865784, + "covertype_test_recall": 0.8180000185966492, + "covertype_test_f1-score": 0.8157737255096436, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8180000185966492 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.588809072971344, + "lr": 4.758647264679894e-05, + "covertype_val_accuracy": 0.7777777910232544, + "covertype_val_precision": 0.7732892632484436, + "covertype_val_recall": 0.7777777910232544, + "covertype_val_f1-score": 0.7731570601463318, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7777777910232544 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.587309718132019, + "lr": 4.758647264679894e-05, + "covertype_test_accuracy": 0.781499981880188, + "covertype_test_precision": 0.781893253326416, + "covertype_test_recall": 0.781499981880188, + "covertype_test_f1-score": 0.7797650098800659, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.781499981880188 + }, + "5": { + "covertype_test_loss": 0.5766045451164246, + "covertype_test_accuracy": 0.7878947257995605, + "covertype_test_precision": 0.7868427634239197, + "covertype_test_recall": 0.7878947257995605, + "covertype_test_f1-score": 0.7861834764480591, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7878947257995605 + }, + "10": { + "covertype_test_loss": 0.5423661470413208, + "covertype_test_accuracy": 0.7944444417953491, + "covertype_test_precision": 0.7923223972320557, + "covertype_test_recall": 0.7944444417953491, + "covertype_test_f1-score": 0.7921768426895142, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7944444417953491 + }, + "20": { + "covertype_test_loss": 0.5077462792396545, + "covertype_test_accuracy": 0.8006250262260437, + "covertype_test_precision": 0.800596296787262, + "covertype_test_recall": 0.8006250262260437, + "covertype_test_f1-score": 0.7991754412651062, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8006250262260437 + }, + "50": { + "covertype_test_loss": 0.4678177237510681, + "covertype_test_accuracy": 0.8050000071525574, + "covertype_test_precision": 0.80362468957901, + "covertype_test_recall": 0.8050000071525574, + "covertype_test_f1-score": 0.8020718097686768, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8050000071525574 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5452631711959839, + "lr": 0.0, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7570417523384094, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7578709125518799, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5599668025970459, + "lr": 0.0, + "covertype_test_accuracy": 0.784500002861023, + "covertype_test_precision": 0.7836382389068604, + "covertype_test_recall": 0.784500002861023, + "covertype_test_f1-score": 0.7786620259284973, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.784500002861023 + }, + "5": { + "covertype_test_loss": 0.5466593503952026, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7878484725952148, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.785815954208374, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7900000214576721 + }, + "10": { + "covertype_test_loss": 0.5202563405036926, + "covertype_test_accuracy": 0.7961111068725586, + "covertype_test_precision": 0.7917999625205994, + "covertype_test_recall": 0.7961111068725586, + "covertype_test_f1-score": 0.7911679744720459, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7961111068725586 + }, + "20": { + "covertype_test_loss": 0.48006367683410645, + "covertype_test_accuracy": 0.8012499809265137, + "covertype_test_precision": 0.800442636013031, + "covertype_test_recall": 0.8012499809265137, + "covertype_test_f1-score": 0.797874927520752, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8012499809265137 + }, + "50": { + "covertype_test_loss": 0.4417969286441803, + "covertype_test_accuracy": 0.8059999942779541, + "covertype_test_precision": 0.8052200078964233, + "covertype_test_recall": 0.8059999942779541, + "covertype_test_f1-score": 0.802264928817749, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8059999942779541 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5691985249519348, + "std": 0.012370049926722108, + "n": 5, + "ci95": 0.015356983303779635 + }, + "lr": { + "mean": 1.2658977721002884e-05, + "std": 2.067594088655112e-05, + "n": 5, + "ci95": 2.5668455735072258e-05 + }, + "covertype_test_accuracy": { + "mean": 0.785699999332428, + "std": 0.0027064818206374228, + "n": 5, + "ci95": 0.003360002294067194 + }, + "covertype_test_precision": { + "mean": 0.7856173396110535, + "std": 0.002747706783776938, + "n": 5, + "ci95": 0.003411181640503367 + }, + "covertype_test_recall": { + "mean": 0.785699999332428, + "std": 0.0027064818206374228, + "n": 5, + "ci95": 0.003360002294067194 + }, + "covertype_test_f1-score": { + "mean": 0.7830338716506958, + "std": 0.003520994208574131, + "n": 5, + "ci95": 0.004371190867788681 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.785699999332428, + "std": 0.0027064818206374228, + "n": 5, + "ci95": 0.003360002294067194 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5579300284385681, + "std": 0.014026321908282813, + "n": 5, + "ci95": 0.017413186901826534 + }, + "covertype_test_accuracy": { + "mean": 0.7913684248924255, + "std": 0.002457399824033419, + "n": 5, + "ci95": 0.0030507757278221705 + }, + "covertype_test_precision": { + "mean": 0.7904709577560425, + "std": 0.0031855080794482866, + "n": 5, + "ci95": 0.003954696600250953 + }, + "covertype_test_recall": { + "mean": 0.7913684248924255, + "std": 0.002457399824033419, + "n": 5, + "ci95": 0.0030507757278221705 + }, + "covertype_test_f1-score": { + "mean": 0.7892065405845642, + "std": 0.003022148536454469, + "n": 5, + "ci95": 0.0037518914548287222 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7913684248924255, + "std": 0.002457399824033419, + "n": 5, + "ci95": 0.0030507757278221705 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5277767419815064, + "std": 0.0129629526480136, + "n": 5, + "ci95": 0.01609305124575048 + }, + "covertype_test_accuracy": { + "mean": 0.7977777719497681, + "std": 0.0024845131629447096, + "n": 5, + "ci95": 0.0030844359875169145 + }, + "covertype_test_precision": { + "mean": 0.7956425786018372, + "std": 0.003669832131156691, + "n": 5, + "ci95": 0.004555967930582258 + }, + "covertype_test_recall": { + "mean": 0.7977777719497681, + "std": 0.0024845131629447096, + "n": 5, + "ci95": 0.0030844359875169145 + }, + "covertype_test_f1-score": { + "mean": 0.7950048804283142, + "std": 0.003178898620423562, + "n": 5, + "ci95": 0.003946491188592068 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7977777719497681, + "std": 0.0024845131629447096, + "n": 5, + "ci95": 0.0030844359875169145 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.48879547119140626, + "std": 0.01675399741676915, + "n": 5, + "ci95": 0.02079950041633094 + }, + "covertype_test_accuracy": { + "mean": 0.803125, + "std": 0.0024606194367406127, + "n": 5, + "ci95": 0.0030547727641220975 + }, + "covertype_test_precision": { + "mean": 0.8027478575706481, + "std": 0.002963113935178076, + "n": 5, + "ci95": 0.003678602067031798 + }, + "covertype_test_recall": { + "mean": 0.803125, + "std": 0.0024606194367406127, + "n": 5, + "ci95": 0.0030547727641220975 + }, + "covertype_test_f1-score": { + "mean": 0.8012675881385803, + "std": 0.0029250936648429382, + "n": 5, + "ci95": 0.00363140123435928 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.803125, + "std": 0.0024606194367406127, + "n": 5, + "ci95": 0.0030547727641220975 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.45071013569831847, + "std": 0.013767069280559928, + "n": 5, + "ci95": 0.017091333853618478 + }, + "covertype_test_accuracy": { + "mean": 0.8086000084877014, + "std": 0.005727131705739544, + "n": 5, + "ci95": 0.007110033225783033 + }, + "covertype_test_precision": { + "mean": 0.8080809235572814, + "std": 0.005200331736166009, + "n": 5, + "ci95": 0.00645602953258079 + }, + "covertype_test_recall": { + "mean": 0.8086000084877014, + "std": 0.005727131705739544, + "n": 5, + "ci95": 0.007110033225783033 + }, + "covertype_test_f1-score": { + "mean": 0.8057651042938232, + "std": 0.005958727725799432, + "n": 5, + "ci95": 0.007397551565187502 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8086000084877014, + "std": 0.005727131705739544, + "n": 5, + "ci95": 0.007110033225783033 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..dfb1ecbcf50409200cf4483968a3d4dd3483b44c --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmplsxtju33", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmplsxtju33/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5942534804344177, + "lr": 0.0, + "covertype_val_accuracy": 0.7467467188835144, + "covertype_val_precision": 0.7424960136413574, + "covertype_val_recall": 0.7467467188835144, + "covertype_val_f1-score": 0.7399360537528992, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7467467188835144 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5837439298629761, + "lr": 0.0, + "covertype_test_accuracy": 0.7444999814033508, + "covertype_test_precision": 0.7445575594902039, + "covertype_test_recall": 0.7444999814033508, + "covertype_test_f1-score": 0.7400442361831665, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7444999814033508 + }, + "5": { + "covertype_test_loss": 0.5682209134101868, + "covertype_test_accuracy": 0.7521052360534668, + "covertype_test_precision": 0.7518229484558105, + "covertype_test_recall": 0.7521052360534668, + "covertype_test_f1-score": 0.7487977743148804, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7521052360534668 + }, + "10": { + "covertype_test_loss": 0.5543239712715149, + "covertype_test_accuracy": 0.757777750492096, + "covertype_test_precision": 0.7568292617797852, + "covertype_test_recall": 0.757777750492096, + "covertype_test_f1-score": 0.7539806365966797, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.757777750492096 + }, + "20": { + "covertype_test_loss": 0.5300204157829285, + "covertype_test_accuracy": 0.7643749713897705, + "covertype_test_precision": 0.7638221979141235, + "covertype_test_recall": 0.7643749713897705, + "covertype_test_f1-score": 0.7617920637130737, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7643749713897705 + }, + "50": { + "covertype_test_loss": 0.5101293921470642, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.77500981092453, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7714158892631531, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7749999761581421 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5893120765686035, + "lr": 0.0, + "covertype_val_accuracy": 0.7587587833404541, + "covertype_val_precision": 0.7560912370681763, + "covertype_val_recall": 0.7587587833404541, + "covertype_val_f1-score": 0.7542160153388977, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7587587833404541 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5691357254981995, + "lr": 0.0, + "covertype_test_accuracy": 0.7555000185966492, + "covertype_test_precision": 0.7556179165840149, + "covertype_test_recall": 0.7555000185966492, + "covertype_test_f1-score": 0.7510920166969299, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7555000185966492 + }, + "5": { + "covertype_test_loss": 0.5564992427825928, + "covertype_test_accuracy": 0.7610526084899902, + "covertype_test_precision": 0.7635233998298645, + "covertype_test_recall": 0.7610526084899902, + "covertype_test_f1-score": 0.75836181640625, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7610526084899902 + }, + "10": { + "covertype_test_loss": 0.542976975440979, + "covertype_test_accuracy": 0.7666666507720947, + "covertype_test_precision": 0.7674481868743896, + "covertype_test_recall": 0.7666666507720947, + "covertype_test_f1-score": 0.7630972862243652, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7666666507720947 + }, + "20": { + "covertype_test_loss": 0.5243756771087646, + "covertype_test_accuracy": 0.7731249928474426, + "covertype_test_precision": 0.7748985290527344, + "covertype_test_recall": 0.7731249928474426, + "covertype_test_f1-score": 0.7705292701721191, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7731249928474426 + }, + "50": { + "covertype_test_loss": 0.5011122226715088, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7799845933914185, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.778107762336731, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.594679594039917, + "lr": 0.0, + "covertype_val_accuracy": 0.7507507801055908, + "covertype_val_precision": 0.7505197525024414, + "covertype_val_recall": 0.7507507801055908, + "covertype_val_f1-score": 0.744871973991394, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7507507801055908 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5649179816246033, + "lr": 0.0, + "covertype_test_accuracy": 0.7544999718666077, + "covertype_test_precision": 0.7536816000938416, + "covertype_test_recall": 0.7544999718666077, + "covertype_test_f1-score": 0.7506380677223206, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7544999718666077 + }, + "5": { + "covertype_test_loss": 0.5526611804962158, + "covertype_test_accuracy": 0.7615789771080017, + "covertype_test_precision": 0.7602852582931519, + "covertype_test_recall": 0.7615789771080017, + "covertype_test_f1-score": 0.7587569355964661, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7615789771080017 + }, + "10": { + "covertype_test_loss": 0.5397632718086243, + "covertype_test_accuracy": 0.7677778005599976, + "covertype_test_precision": 0.7651002407073975, + "covertype_test_recall": 0.7677778005599976, + "covertype_test_f1-score": 0.7643659710884094, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7677778005599976 + }, + "20": { + "covertype_test_loss": 0.5167881846427917, + "covertype_test_accuracy": 0.7737500071525574, + "covertype_test_precision": 0.7732970118522644, + "covertype_test_recall": 0.7737500071525574, + "covertype_test_f1-score": 0.7714507579803467, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7737500071525574 + }, + "50": { + "covertype_test_loss": 0.4950433671474457, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.7781588435173035, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.7762156128883362, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.777999997138977 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5778625011444092, + "lr": 0.0, + "covertype_val_accuracy": 0.7557557821273804, + "covertype_val_precision": 0.7527441382408142, + "covertype_val_recall": 0.7557557821273804, + "covertype_val_f1-score": 0.7502015829086304, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7557557821273804 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5750553011894226, + "lr": 0.0, + "covertype_test_accuracy": 0.7465000152587891, + "covertype_test_precision": 0.7456411719322205, + "covertype_test_recall": 0.7465000152587891, + "covertype_test_f1-score": 0.7417492270469666, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7465000152587891 + }, + "5": { + "covertype_test_loss": 0.5612525939941406, + "covertype_test_accuracy": 0.7547368407249451, + "covertype_test_precision": 0.7563743591308594, + "covertype_test_recall": 0.7547368407249451, + "covertype_test_f1-score": 0.7523136138916016, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7547368407249451 + }, + "10": { + "covertype_test_loss": 0.5422821640968323, + "covertype_test_accuracy": 0.7616666555404663, + "covertype_test_precision": 0.762444019317627, + "covertype_test_recall": 0.7616666555404663, + "covertype_test_f1-score": 0.7590110301971436, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7616666555404663 + }, + "20": { + "covertype_test_loss": 0.5198942422866821, + "covertype_test_accuracy": 0.7681249976158142, + "covertype_test_precision": 0.7688590884208679, + "covertype_test_recall": 0.7681249976158142, + "covertype_test_f1-score": 0.7658864855766296, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7681249976158142 + }, + "50": { + "covertype_test_loss": 0.4883212447166443, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.775614321231842, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.773903489112854, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7760000228881836 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5854717493057251, + "lr": 0.0, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7552387714385986, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7526459693908691, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5684918165206909, + "lr": 0.0, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7542546391487122, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7510440945625305, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7549999952316284 + }, + "5": { + "covertype_test_loss": 0.5527493953704834, + "covertype_test_accuracy": 0.7615789771080017, + "covertype_test_precision": 0.7600175738334656, + "covertype_test_recall": 0.7615789771080017, + "covertype_test_f1-score": 0.7587558627128601, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7615789771080017 + }, + "10": { + "covertype_test_loss": 0.5368542671203613, + "covertype_test_accuracy": 0.769444465637207, + "covertype_test_precision": 0.7668437957763672, + "covertype_test_recall": 0.769444465637207, + "covertype_test_f1-score": 0.7659750580787659, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.769444465637207 + }, + "20": { + "covertype_test_loss": 0.5169010758399963, + "covertype_test_accuracy": 0.7756249904632568, + "covertype_test_precision": 0.7733274102210999, + "covertype_test_recall": 0.7756249904632568, + "covertype_test_f1-score": 0.7731828093528748, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7756249904632568 + }, + "50": { + "covertype_test_loss": 0.49640047550201416, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.776602566242218, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7769680023193359, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5722689509391785, + "std": 0.007374948897480279, + "n": 5, + "ci95": 0.009155740498684003 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.751199996471405, + "std": 0.00526307998645583, + "n": 5, + "ci95": 0.006533929285431465 + }, + "covertype_test_precision": { + "mean": 0.7507505774497986, + "std": 0.0052206280409563734, + "n": 5, + "ci95": 0.006481226683412067 + }, + "covertype_test_recall": { + "mean": 0.751199996471405, + "std": 0.00526307998645583, + "n": 5, + "ci95": 0.006533929285431465 + }, + "covertype_test_f1-score": { + "mean": 0.7469135284423828, + "std": 0.005528352341777044, + "n": 5, + "ci95": 0.006863255614407866 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.751199996471405, + "std": 0.00526307998645583, + "n": 5, + "ci95": 0.006533929285431465 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5582766652107238, + "std": 0.006576241999238971, + "n": 5, + "ci95": 0.008164173886296396 + }, + "covertype_test_accuracy": { + "mean": 0.7582105278968811, + "std": 0.004475248968919491, + "n": 5, + "ci95": 0.005555864697642751 + }, + "covertype_test_precision": { + "mean": 0.7584047079086303, + "std": 0.0044660017599331865, + "n": 5, + "ci95": 0.0055443846118831555 + }, + "covertype_test_recall": { + "mean": 0.7582105278968811, + "std": 0.004475248968919491, + "n": 5, + "ci95": 0.005555864697642751 + }, + "covertype_test_f1-score": { + "mean": 0.7553972005844116, + "std": 0.004593971908774788, + "n": 5, + "ci95": 0.005703255065178362 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7582105278968811, + "std": 0.004475248968919491, + "n": 5, + "ci95": 0.005555864697642751 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5432401299476624, + "std": 0.006646545605165626, + "n": 5, + "ci95": 0.008251453348287804 + }, + "covertype_test_accuracy": { + "mean": 0.7646666646003724, + "std": 0.004820883900921603, + "n": 5, + "ci95": 0.0059849583481455795 + }, + "covertype_test_precision": { + "mean": 0.7637331008911132, + "std": 0.004320650517796967, + "n": 5, + "ci95": 0.005363936140624557 + }, + "covertype_test_recall": { + "mean": 0.7646666646003724, + "std": 0.004820883900921603, + "n": 5, + "ci95": 0.0059849583481455795 + }, + "covertype_test_f1-score": { + "mean": 0.7612859964370727, + "std": 0.004829546236875407, + "n": 5, + "ci95": 0.005995712334540326 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7646666646003724, + "std": 0.004820883900921603, + "n": 5, + "ci95": 0.0059849583481455795 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5215959191322327, + "std": 0.005629182151342612, + "n": 5, + "ci95": 0.006988432288002103 + }, + "covertype_test_accuracy": { + "mean": 0.7709999918937683, + "std": 0.004626697351273381, + "n": 5, + "ci95": 0.005743882554722607 + }, + "covertype_test_precision": { + "mean": 0.770840847492218, + "std": 0.004524083557245187, + "n": 5, + "ci95": 0.005616491126962539 + }, + "covertype_test_recall": { + "mean": 0.7709999918937683, + "std": 0.004626697351273381, + "n": 5, + "ci95": 0.005743882554722607 + }, + "covertype_test_f1-score": { + "mean": 0.7685682773590088, + "std": 0.004651805332536616, + "n": 5, + "ci95": 0.005775053233202906 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7709999918937683, + "std": 0.004626697351273381, + "n": 5, + "ci95": 0.005743882554722607 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4982013404369354, + "std": 0.008086777081077108, + "n": 5, + "ci95": 0.010039450232711971 + }, + "covertype_test_accuracy": { + "mean": 0.7777999877929688, + "std": 0.0022803397885242434, + "n": 5, + "ci95": 0.0028309619012662126 + }, + "covertype_test_precision": { + "mean": 0.7770740270614624, + "std": 0.0020163226290092866, + "n": 5, + "ci95": 0.002503193853877506 + }, + "covertype_test_recall": { + "mean": 0.7777999877929688, + "std": 0.0022803397885242434, + "n": 5, + "ci95": 0.0028309619012662126 + }, + "covertype_test_f1-score": { + "mean": 0.775322151184082, + "std": 0.002671058476399756, + "n": 5, + "ci95": 0.0033160254540993347 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7777999877929688, + "std": 0.0022803397885242434, + "n": 5, + "ci95": 0.0028309619012662126 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..dce90f05dc8868947dd533f737720e7b627f2e1d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp45z62ir6", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp45z62ir6/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6648762226104736, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7227227091789246, + "covertype_val_precision": 0.722088634967804, + "covertype_val_recall": 0.7227227091789246, + "covertype_val_f1-score": 0.7107617855072021, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7227227091789246 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6649483442306519, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7095000147819519, + "covertype_test_precision": 0.698875367641449, + "covertype_test_recall": 0.7095000147819519, + "covertype_test_f1-score": 0.6981251835823059, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7095000147819519 + }, + "5": { + "covertype_test_loss": 0.6533650159835815, + "covertype_test_accuracy": 0.7131578922271729, + "covertype_test_precision": 0.7044622302055359, + "covertype_test_recall": 0.7131578922271729, + "covertype_test_f1-score": 0.7047366499900818, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7131578922271729 + }, + "10": { + "covertype_test_loss": 0.6403342485427856, + "covertype_test_accuracy": 0.7188888788223267, + "covertype_test_precision": 0.7099458575248718, + "covertype_test_recall": 0.7188888788223267, + "covertype_test_f1-score": 0.7120988368988037, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7188888788223267 + }, + "20": { + "covertype_test_loss": 0.6185808777809143, + "covertype_test_accuracy": 0.7206249833106995, + "covertype_test_precision": 0.7131709456443787, + "covertype_test_recall": 0.7206249833106995, + "covertype_test_f1-score": 0.7147001028060913, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7206249833106995 + }, + "50": { + "covertype_test_loss": 0.5716027617454529, + "covertype_test_accuracy": 0.7310000061988831, + "covertype_test_precision": 0.7195534110069275, + "covertype_test_recall": 0.7310000061988831, + "covertype_test_f1-score": 0.7250999212265015, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7310000061988831 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6677659749984741, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7227227091789246, + "covertype_val_precision": 0.7334301471710205, + "covertype_val_recall": 0.7227227091789246, + "covertype_val_f1-score": 0.7096958160400391, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7227227091789246 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6570108532905579, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7174999713897705, + "covertype_test_precision": 0.705305278301239, + "covertype_test_recall": 0.7174999713897705, + "covertype_test_f1-score": 0.7044462561607361, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7174999713897705 + }, + "5": { + "covertype_test_loss": 0.6437862515449524, + "covertype_test_accuracy": 0.7215789556503296, + "covertype_test_precision": 0.7101238965988159, + "covertype_test_recall": 0.7215789556503296, + "covertype_test_f1-score": 0.7110412120819092, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7215789556503296 + }, + "10": { + "covertype_test_loss": 0.6318402886390686, + "covertype_test_accuracy": 0.7277777791023254, + "covertype_test_precision": 0.7148034572601318, + "covertype_test_recall": 0.7277777791023254, + "covertype_test_f1-score": 0.7197880744934082, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7277777791023254 + }, + "20": { + "covertype_test_loss": 0.6084543466567993, + "covertype_test_accuracy": 0.7337499856948853, + "covertype_test_precision": 0.7225753664970398, + "covertype_test_recall": 0.7337499856948853, + "covertype_test_f1-score": 0.7268304228782654, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7337499856948853 + }, + "50": { + "covertype_test_loss": 0.5742712020874023, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.7372651696205139, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.7430123090744019, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.75 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6374411582946777, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.7327114343643188, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.7312995195388794, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6355630159378052, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7164999842643738, + "covertype_test_precision": 0.7091344594955444, + "covertype_test_recall": 0.7164999842643738, + "covertype_test_f1-score": 0.7106595039367676, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7164999842643738 + }, + "5": { + "covertype_test_loss": 0.6216435432434082, + "covertype_test_accuracy": 0.7221052646636963, + "covertype_test_precision": 0.7155495882034302, + "covertype_test_recall": 0.7221052646636963, + "covertype_test_f1-score": 0.7172725796699524, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7221052646636963 + }, + "10": { + "covertype_test_loss": 0.6089280247688293, + "covertype_test_accuracy": 0.7283333539962769, + "covertype_test_precision": 0.720007598400116, + "covertype_test_recall": 0.7283333539962769, + "covertype_test_f1-score": 0.7229210734367371, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7283333539962769 + }, + "20": { + "covertype_test_loss": 0.5830284357070923, + "covertype_test_accuracy": 0.7362499833106995, + "covertype_test_precision": 0.7267299294471741, + "covertype_test_recall": 0.7362499833106995, + "covertype_test_f1-score": 0.7308778762817383, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7362499833106995 + }, + "50": { + "covertype_test_loss": 0.5382353067398071, + "covertype_test_accuracy": 0.753000020980835, + "covertype_test_precision": 0.7403136491775513, + "covertype_test_recall": 0.753000020980835, + "covertype_test_f1-score": 0.746354877948761, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.753000020980835 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.7679976224899292, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7207207083702087, + "covertype_val_precision": 0.6840154528617859, + "covertype_val_recall": 0.7207207083702087, + "covertype_val_f1-score": 0.6967337727546692, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7207207083702087 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7205773591995239, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7045000195503235, + "covertype_test_precision": 0.6714348196983337, + "covertype_test_recall": 0.7045000195503235, + "covertype_test_f1-score": 0.6833998560905457, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7045000195503235 + }, + "5": { + "covertype_test_loss": 0.7027403116226196, + "covertype_test_accuracy": 0.7136842012405396, + "covertype_test_precision": 0.6882115006446838, + "covertype_test_recall": 0.7136842012405396, + "covertype_test_f1-score": 0.6963883638381958, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7136842012405396 + }, + "10": { + "covertype_test_loss": 0.6879354119300842, + "covertype_test_accuracy": 0.7194444537162781, + "covertype_test_precision": 0.702107310295105, + "covertype_test_recall": 0.7194444537162781, + "covertype_test_f1-score": 0.7058078050613403, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7194444537162781 + }, + "20": { + "covertype_test_loss": 0.6612679958343506, + "covertype_test_accuracy": 0.7250000238418579, + "covertype_test_precision": 0.7138057947158813, + "covertype_test_recall": 0.7250000238418579, + "covertype_test_f1-score": 0.7137933373451233, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7250000238418579 + }, + "50": { + "covertype_test_loss": 0.648858904838562, + "covertype_test_accuracy": 0.7350000143051147, + "covertype_test_precision": 0.7272728681564331, + "covertype_test_recall": 0.7350000143051147, + "covertype_test_f1-score": 0.7254282236099243, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7350000143051147 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 1.1378414630889893, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6026026010513306, + "covertype_val_precision": 0.6324437856674194, + "covertype_val_recall": 0.6026026010513306, + "covertype_val_f1-score": 0.558599054813385, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6026026010513306 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 1.3935574293136597, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6004999876022339, + "covertype_test_precision": 0.6632087230682373, + "covertype_test_recall": 0.6004999876022339, + "covertype_test_f1-score": 0.5573390126228333, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6004999876022339 + }, + "5": { + "covertype_test_loss": 1.3769307136535645, + "covertype_test_accuracy": 0.6036841869354248, + "covertype_test_precision": 0.6743594408035278, + "covertype_test_recall": 0.6036841869354248, + "covertype_test_f1-score": 0.5621083378791809, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6036841869354248 + }, + "10": { + "covertype_test_loss": 1.3840373754501343, + "covertype_test_accuracy": 0.605555534362793, + "covertype_test_precision": 0.6825799942016602, + "covertype_test_recall": 0.605555534362793, + "covertype_test_f1-score": 0.5643467307090759, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.605555534362793 + }, + "20": { + "covertype_test_loss": 1.4097034931182861, + "covertype_test_accuracy": 0.6106250286102295, + "covertype_test_precision": 0.6918266415596008, + "covertype_test_recall": 0.6106250286102295, + "covertype_test_f1-score": 0.5689362287521362, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6106250286102295 + }, + "50": { + "covertype_test_loss": 1.2009297609329224, + "covertype_test_accuracy": 0.6259999871253967, + "covertype_test_precision": 0.7160307168960571, + "covertype_test_recall": 0.6259999871253967, + "covertype_test_f1-score": 0.5791033506393433, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6259999871253967 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.8143314003944397, + "std": 0.3253136179554432, + "n": 5, + "ci95": 0.40386545155664666 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.6896999955177308, + "std": 0.05014678689023789, + "n": 5, + "ci95": 0.062255477833438745 + }, + "covertype_test_precision": { + "mean": 0.6895917296409607, + "std": 0.02086118555279945, + "n": 5, + "ci95": 0.02589843049374679 + }, + "covertype_test_recall": { + "mean": 0.6896999955177308, + "std": 0.05014678689023789, + "n": 5, + "ci95": 0.062255477833438745 + }, + "covertype_test_f1-score": { + "mean": 0.6707939624786377, + "std": 0.06422551695660283, + "n": 5, + "ci95": 0.07973372762615229 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6896999955177308, + "std": 0.05014678689023789, + "n": 5, + "ci95": 0.062255477833438745 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.7996931672096252, + "std": 0.32404614024044026, + "n": 5, + "ci95": 0.40229192240983497 + }, + "covertype_test_accuracy": { + "mean": 0.6948421001434326, + "std": 0.05113315396076878, + "n": 5, + "ci95": 0.06348001797056613 + }, + "covertype_test_precision": { + "mean": 0.6985413312911988, + "std": 0.0169555514138797, + "n": 5, + "ci95": 0.021049722637483847 + }, + "covertype_test_recall": { + "mean": 0.6948421001434326, + "std": 0.05113315396076878, + "n": 5, + "ci95": 0.06348001797056613 + }, + "covertype_test_f1-score": { + "mean": 0.6783094286918641, + "std": 0.06541681015928134, + "n": 5, + "ci95": 0.08121267637185778 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6948421001434326, + "std": 0.05113315396076878, + "n": 5, + "ci95": 0.06348001797056613 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.7906150698661805, + "std": 0.33297788353207763, + "n": 5, + "ci95": 0.4133803685693783 + }, + "covertype_test_accuracy": { + "mean": 0.7, + "std": 0.05298352945378999, + "n": 5, + "ci95": 0.06577719427303717 + }, + "covertype_test_precision": { + "mean": 0.7058888435363769, + "std": 0.01460198094619638, + "n": 5, + "ci95": 0.018127847415428118 + }, + "covertype_test_recall": { + "mean": 0.7, + "std": 0.05298352945378999, + "n": 5, + "ci95": 0.06577719427303717 + }, + "covertype_test_f1-score": { + "mean": 0.684992504119873, + "std": 0.06777304176429441, + "n": 5, + "ci95": 0.08413785530261186 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7, + "std": 0.05298352945378999, + "n": 5, + "ci95": 0.06577719427303717 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.7762070298194885, + "std": 0.3552582463094744, + "n": 5, + "ci95": 0.4410406578326814 + }, + "covertype_test_accuracy": { + "mean": 0.7052500009536743, + "std": 0.053276605827383174, + "n": 5, + "ci95": 0.06614103831592015 + }, + "covertype_test_precision": { + "mean": 0.7136217355728149, + "std": 0.013483837229694571, + "n": 5, + "ci95": 0.01673971119227105 + }, + "covertype_test_recall": { + "mean": 0.7052500009536743, + "std": 0.053276605827383174, + "n": 5, + "ci95": 0.06614103831592015 + }, + "covertype_test_f1-score": { + "mean": 0.6910275936126709, + "std": 0.06865649234584147, + "n": 5, + "ci95": 0.0852346282268039 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7052500009536743, + "std": 0.053276605827383174, + "n": 5, + "ci95": 0.06614103831592015 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.7067795872688294, + "std": 0.27918525229068497, + "n": 5, + "ci95": 0.3465987027932447 + }, + "covertype_test_accuracy": { + "mean": 0.7190000057220459, + "std": 0.052834658198739524, + "n": 5, + "ci95": 0.0655923758291533 + }, + "covertype_test_precision": { + "mean": 0.7280871629714966, + "std": 0.010636830608842764, + "n": 5, + "ci95": 0.01320525228538151 + }, + "covertype_test_recall": { + "mean": 0.7190000057220459, + "std": 0.052834658198739524, + "n": 5, + "ci95": 0.0655923758291533 + }, + "covertype_test_f1-score": { + "mean": 0.7037997364997863, + "std": 0.07039041817318574, + "n": 5, + "ci95": 0.0873872363519333 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7190000057220459, + "std": 0.052834658198739524, + "n": 5, + "ci95": 0.0655923758291533 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..60df59fc452c6b48fc096386be46a8f87a8a464a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpseszykro", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpseszykro/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5647444725036621, + "lr": 0.0, + "covertype_val_accuracy": 0.7687687873840332, + "covertype_val_precision": 0.7655566930770874, + "covertype_val_recall": 0.7687687873840332, + "covertype_val_f1-score": 0.7666970491409302, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7687687873840332 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5423771739006042, + "lr": 0.0, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7862517833709717, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.7861152291297913, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5221694707870483, + "covertype_test_accuracy": 0.7942105531692505, + "covertype_test_precision": 0.7938043475151062, + "covertype_test_recall": 0.7942105531692505, + "covertype_test_f1-score": 0.7937959432601929, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7942105531692505 + }, + "10": { + "covertype_test_loss": 0.49457642436027527, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.798363208770752, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7990517020225525, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.800000011920929 + }, + "20": { + "covertype_test_loss": 0.46405264735221863, + "covertype_test_accuracy": 0.8062499761581421, + "covertype_test_precision": 0.8055909872055054, + "covertype_test_recall": 0.8062499761581421, + "covertype_test_f1-score": 0.8058651685714722, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8062499761581421 + }, + "50": { + "covertype_test_loss": 0.4441690444946289, + "covertype_test_accuracy": 0.7960000038146973, + "covertype_test_precision": 0.7952722311019897, + "covertype_test_recall": 0.7960000038146973, + "covertype_test_f1-score": 0.7951568961143494, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7960000038146973 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5948060750961304, + "lr": 0.0, + "covertype_val_accuracy": 0.7627627849578857, + "covertype_val_precision": 0.7466145157814026, + "covertype_val_recall": 0.7627627849578857, + "covertype_val_f1-score": 0.7527952194213867, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7627627849578857 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5678924322128296, + "lr": 0.0, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.7735941410064697, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7703278064727783, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7730000019073486 + }, + "5": { + "covertype_test_loss": 0.550363302230835, + "covertype_test_accuracy": 0.7789473533630371, + "covertype_test_precision": 0.7820013761520386, + "covertype_test_recall": 0.7789473533630371, + "covertype_test_f1-score": 0.7777000665664673, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7789473533630371 + }, + "10": { + "covertype_test_loss": 0.5289002656936646, + "covertype_test_accuracy": 0.7844444513320923, + "covertype_test_precision": 0.7865361571311951, + "covertype_test_recall": 0.7844444513320923, + "covertype_test_f1-score": 0.7834701538085938, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7844444513320923 + }, + "20": { + "covertype_test_loss": 0.4911397695541382, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7964980006217957, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7944590449333191, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7950000166893005 + }, + "50": { + "covertype_test_loss": 0.4607788920402527, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7956686019897461, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7938345670700073, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7950000166893005 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5896857380867004, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7737737894058228, + "covertype_val_precision": 0.7646192908287048, + "covertype_val_recall": 0.7737737894058228, + "covertype_val_f1-score": 0.7642657160758972, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7737737894058228 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5824047923088074, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7753526568412781, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7709454298019409, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7749999761581421 + }, + "5": { + "covertype_test_loss": 0.5620213150978088, + "covertype_test_accuracy": 0.780526340007782, + "covertype_test_precision": 0.7816320657730103, + "covertype_test_recall": 0.780526340007782, + "covertype_test_f1-score": 0.777085542678833, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.780526340007782 + }, + "10": { + "covertype_test_loss": 0.5369541645050049, + "covertype_test_accuracy": 0.7855555415153503, + "covertype_test_precision": 0.7853719592094421, + "covertype_test_recall": 0.7855555415153503, + "covertype_test_f1-score": 0.781899631023407, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7855555415153503 + }, + "20": { + "covertype_test_loss": 0.5069103240966797, + "covertype_test_accuracy": 0.7906249761581421, + "covertype_test_precision": 0.7909544706344604, + "covertype_test_recall": 0.7906249761581421, + "covertype_test_f1-score": 0.7884484529495239, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7906249761581421 + }, + "50": { + "covertype_test_loss": 0.4763513207435608, + "covertype_test_accuracy": 0.7829999923706055, + "covertype_test_precision": 0.7817959189414978, + "covertype_test_recall": 0.7829999923706055, + "covertype_test_f1-score": 0.7797794938087463, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7829999923706055 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5701540112495422, + "lr": 0.0, + "covertype_val_accuracy": 0.7797797918319702, + "covertype_val_precision": 0.7768524289131165, + "covertype_val_recall": 0.7797797918319702, + "covertype_val_f1-score": 0.7777771353721619, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7797797918319702 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5434557199478149, + "lr": 0.0, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7843605875968933, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.78184974193573, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.781000018119812 + }, + "5": { + "covertype_test_loss": 0.5241385102272034, + "covertype_test_accuracy": 0.7884210348129272, + "covertype_test_precision": 0.7921367883682251, + "covertype_test_recall": 0.7884210348129272, + "covertype_test_f1-score": 0.7889238595962524, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7884210348129272 + }, + "10": { + "covertype_test_loss": 0.5032210350036621, + "covertype_test_accuracy": 0.79666668176651, + "covertype_test_precision": 0.7984877824783325, + "covertype_test_recall": 0.79666668176651, + "covertype_test_f1-score": 0.7966543436050415, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.79666668176651 + }, + "20": { + "covertype_test_loss": 0.4741190969944, + "covertype_test_accuracy": 0.8056250214576721, + "covertype_test_precision": 0.8074939846992493, + "covertype_test_recall": 0.8056250214576721, + "covertype_test_f1-score": 0.8057833313941956, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8056250214576721 + }, + "50": { + "covertype_test_loss": 0.4221740663051605, + "covertype_test_accuracy": 0.8119999766349792, + "covertype_test_precision": 0.8120008707046509, + "covertype_test_recall": 0.8119999766349792, + "covertype_test_f1-score": 0.811562180519104, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8119999766349792 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5889421701431274, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.7466676235198975, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7474523782730103, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5587324500083923, + "lr": 0.0, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.7761594653129578, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7739129662513733, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7730000019073486 + }, + "5": { + "covertype_test_loss": 0.5331196188926697, + "covertype_test_accuracy": 0.7784210443496704, + "covertype_test_precision": 0.7826181650161743, + "covertype_test_recall": 0.7784210443496704, + "covertype_test_f1-score": 0.779727041721344, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7784210443496704 + }, + "10": { + "covertype_test_loss": 0.5180349946022034, + "covertype_test_accuracy": 0.7838888764381409, + "covertype_test_precision": 0.7872264385223389, + "covertype_test_recall": 0.7838888764381409, + "covertype_test_f1-score": 0.7848541140556335, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7838888764381409 + }, + "20": { + "covertype_test_loss": 0.4900871217250824, + "covertype_test_accuracy": 0.7912499904632568, + "covertype_test_precision": 0.7932590842247009, + "covertype_test_recall": 0.7912499904632568, + "covertype_test_f1-score": 0.7920915484428406, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7912499904632568 + }, + "50": { + "covertype_test_loss": 0.4636986553668976, + "covertype_test_accuracy": 0.7960000038146973, + "covertype_test_precision": 0.7958446145057678, + "covertype_test_recall": 0.7960000038146973, + "covertype_test_f1-score": 0.7952883839607239, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7960000038146973 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5589725136756897, + "std": 0.01691796714337732, + "n": 5, + "ci95": 0.021003063083318025 + }, + "lr": { + "mean": 0.00020000003278255462, + "std": 0.0004472136688039785, + "n": 5, + "ci95": 0.0005552000910043715 + }, + "covertype_test_accuracy": { + "mean": 0.7776999950408936, + "std": 0.005911848476743788, + "n": 5, + "ci95": 0.007339352621019454 + }, + "covertype_test_precision": { + "mean": 0.7791437268257141, + "std": 0.005740558233417208, + "n": 5, + "ci95": 0.0071267017891756676 + }, + "covertype_test_recall": { + "mean": 0.7776999950408936, + "std": 0.005911848476743788, + "n": 5, + "ci95": 0.007339352621019454 + }, + "covertype_test_f1-score": { + "mean": 0.7766302347183227, + "std": 0.007011232616794072, + "n": 5, + "ci95": 0.00870419948770192 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7776999950408936, + "std": 0.005911848476743788, + "n": 5, + "ci95": 0.007339352621019454 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.538362443447113, + "std": 0.017290045318431497, + "n": 5, + "ci95": 0.021464985092999187 + }, + "covertype_test_accuracy": { + "mean": 0.7841052651405335, + "std": 0.0069366028972769, + "n": 5, + "ci95": 0.008611549307356638 + }, + "covertype_test_precision": { + "mean": 0.7864385485649109, + "std": 0.006002312832163569, + "n": 5, + "ci95": 0.007451660946693035 + }, + "covertype_test_recall": { + "mean": 0.7841052651405335, + "std": 0.0069366028972769, + "n": 5, + "ci95": 0.008611549307356638 + }, + "covertype_test_f1-score": { + "mean": 0.7834464907646179, + "std": 0.007490495462193691, + "n": 5, + "ci95": 0.009299187507841157 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7841052651405335, + "std": 0.0069366028972769, + "n": 5, + "ci95": 0.008611549307356638 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.516337376832962, + "std": 0.017545209403370485, + "n": 5, + "ci95": 0.021781762358680817 + }, + "covertype_test_accuracy": { + "mean": 0.7901111125946045, + "std": 0.00762145520164645, + "n": 5, + "ci95": 0.009461769433068378 + }, + "covertype_test_precision": { + "mean": 0.7911971092224122, + "std": 0.006631929812278518, + "n": 5, + "ci95": 0.008233308353831965 + }, + "covertype_test_recall": { + "mean": 0.7901111125946045, + "std": 0.00762145520164645, + "n": 5, + "ci95": 0.009461769433068378 + }, + "covertype_test_f1-score": { + "mean": 0.7891859889030457, + "std": 0.008025514609388221, + "n": 5, + "ci95": 0.009963395021904603 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7901111125946045, + "std": 0.00762145520164645, + "n": 5, + "ci95": 0.009461769433068378 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.4852617919445038, + "std": 0.016586748006330403, + "n": 5, + "ci95": 0.02059186613685027 + }, + "covertype_test_accuracy": { + "mean": 0.7977499961853027, + "std": 0.0076623112469676674, + "n": 5, + "ci95": 0.009512490780966986 + }, + "covertype_test_precision": { + "mean": 0.7987593054771424, + "std": 0.007403510598812561, + "n": 5, + "ci95": 0.009191198849546424 + }, + "covertype_test_recall": { + "mean": 0.7977499961853027, + "std": 0.0076623112469676674, + "n": 5, + "ci95": 0.009512490780966986 + }, + "covertype_test_f1-score": { + "mean": 0.7973295092582703, + "std": 0.008044773904853203, + "n": 5, + "ci95": 0.009987304762014815 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7977499961853027, + "std": 0.0076623112469676674, + "n": 5, + "ci95": 0.009512490780966986 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4534343957901001, + "std": 0.020901776439374752, + "n": 5, + "ci95": 0.025948822656358516 + }, + "covertype_test_accuracy": { + "mean": 0.796399998664856, + "std": 0.0103101821352301, + "n": 5, + "ci95": 0.012799729657324985 + }, + "covertype_test_precision": { + "mean": 0.7961164474487304, + "std": 0.010704900733353458, + "n": 5, + "ci95": 0.013289758958498385 + }, + "covertype_test_recall": { + "mean": 0.796399998664856, + "std": 0.0103101821352301, + "n": 5, + "ci95": 0.012799729657324985 + }, + "covertype_test_f1-score": { + "mean": 0.7951243042945861, + "std": 0.011262308711926346, + "n": 5, + "ci95": 0.01398176142179044 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.796399998664856, + "std": 0.0103101821352301, + "n": 5, + "ci95": 0.012799729657324985 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..6149f09927dc08bb18471a4ef95c8b8cbf89ab14 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:a4a4bb55495143a77ad3b849a8122f77eb75c3d2f5b6a1aba87142d7dd81067d +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..bd6c948dbbc0f261bac7e7b24cc644d7576439a9 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e592554988605dd323b0b3c884384cfc4c1035dde5d61a27033ecb812ee6bbec +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..4892a908834716ce825035e040956e5b6daaeabc --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:c6b57439e1e6f1b5fa75c59c71b0ee895952a1534f647153309ec84b5e4e1af0 +size 11493840 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..914c1e8a9082588b5e9671d3365daa85b5030a29 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue3-gpu2-kl1e-7/pretrain/wjepa_joint/covertype/20260917_172009/vtjepa_config.yaml @@ -0,0 +1,130 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-07 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..1e10af0a7877ce6df0c6c4e8b0421690af2aee6d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "e1fb426b1a3c5b791bc2d258e1863928c0e505ccf36637c0e5691751ed46f776", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "4deb20016ca09ec340f89aa2d63521c81d4f894ca2317e43d5c4eb41b014bcb3", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 3e-07, + "start_epoch": 1, + "annealing_epochs": 20 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "3e-07", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..8c2e95116af28473aa52c729417af81c2619ae3f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpy43knpp8", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpy43knpp8/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.607459306716919, + "lr": 0.0, + "covertype_val_accuracy": 0.7507507801055908, + "covertype_val_precision": 0.7497401833534241, + "covertype_val_recall": 0.7507507801055908, + "covertype_val_f1-score": 0.7472994923591614, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7507507801055908 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.611321210861206, + "lr": 0.0, + "covertype_test_accuracy": 0.7559999823570251, + "covertype_test_precision": 0.7572373747825623, + "covertype_test_recall": 0.7559999823570251, + "covertype_test_f1-score": 0.7550649642944336, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7559999823570251 + }, + "5": { + "covertype_test_loss": 0.5975795388221741, + "covertype_test_accuracy": 0.7636842131614685, + "covertype_test_precision": 0.7652456760406494, + "covertype_test_recall": 0.7636842131614685, + "covertype_test_f1-score": 0.7627232074737549, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7636842131614685 + }, + "10": { + "covertype_test_loss": 0.5799623727798462, + "covertype_test_accuracy": 0.7688888907432556, + "covertype_test_precision": 0.7697505950927734, + "covertype_test_recall": 0.7688888907432556, + "covertype_test_f1-score": 0.767576277256012, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7688888907432556 + }, + "20": { + "covertype_test_loss": 0.5546410083770752, + "covertype_test_accuracy": 0.7762500047683716, + "covertype_test_precision": 0.7762792110443115, + "covertype_test_recall": 0.7762500047683716, + "covertype_test_f1-score": 0.7752884030342102, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7762500047683716 + }, + "50": { + "covertype_test_loss": 0.5304223895072937, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.7746187448501587, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.774691104888916, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7760000228881836 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6281678676605225, + "lr": 0.00013551570009440184, + "covertype_val_accuracy": 0.7317317128181458, + "covertype_val_precision": 0.735135018825531, + "covertype_val_recall": 0.7317317128181458, + "covertype_val_f1-score": 0.7304118275642395, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7317317128181458 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5934767723083496, + "lr": 0.0001355156855424866, + "covertype_test_accuracy": 0.7630000114440918, + "covertype_test_precision": 0.7640842199325562, + "covertype_test_recall": 0.7630000114440918, + "covertype_test_f1-score": 0.761768102645874, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7630000114440918 + }, + "5": { + "covertype_test_loss": 0.5801171064376831, + "covertype_test_accuracy": 0.7668421268463135, + "covertype_test_precision": 0.7698554396629333, + "covertype_test_recall": 0.7668421268463135, + "covertype_test_f1-score": 0.766150712966919, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7668421268463135 + }, + "10": { + "covertype_test_loss": 0.5634825825691223, + "covertype_test_accuracy": 0.769444465637207, + "covertype_test_precision": 0.7721366882324219, + "covertype_test_recall": 0.769444465637207, + "covertype_test_f1-score": 0.7685877084732056, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.769444465637207 + }, + "20": { + "covertype_test_loss": 0.5390672087669373, + "covertype_test_accuracy": 0.7737500071525574, + "covertype_test_precision": 0.7759791612625122, + "covertype_test_recall": 0.7737500071525574, + "covertype_test_f1-score": 0.7732319235801697, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7737500071525574 + }, + "50": { + "covertype_test_loss": 0.5094285607337952, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7802429795265198, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.779874861240387, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5932113528251648, + "lr": 0.0, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7442794442176819, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7440986633300781, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5753231048583984, + "lr": 0.0, + "covertype_test_accuracy": 0.7674999833106995, + "covertype_test_precision": 0.7683643102645874, + "covertype_test_recall": 0.7674999833106995, + "covertype_test_f1-score": 0.7661298513412476, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7674999833106995 + }, + "5": { + "covertype_test_loss": 0.5610110759735107, + "covertype_test_accuracy": 0.7715789675712585, + "covertype_test_precision": 0.773630678653717, + "covertype_test_recall": 0.7715789675712585, + "covertype_test_f1-score": 0.7704806923866272, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7715789675712585 + }, + "10": { + "covertype_test_loss": 0.5354606509208679, + "covertype_test_accuracy": 0.7788888812065125, + "covertype_test_precision": 0.7802720665931702, + "covertype_test_recall": 0.7788888812065125, + "covertype_test_f1-score": 0.7774397730827332, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7788888812065125 + }, + "20": { + "covertype_test_loss": 0.5036898255348206, + "covertype_test_accuracy": 0.7868750095367432, + "covertype_test_precision": 0.7873123288154602, + "covertype_test_recall": 0.7868750095367432, + "covertype_test_f1-score": 0.7857133746147156, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7868750095367432 + }, + "50": { + "covertype_test_loss": 0.4813366234302521, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7851390838623047, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7854016423225403, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7870000004768372 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6168127059936523, + "lr": 0.0, + "covertype_val_accuracy": 0.7447447180747986, + "covertype_val_precision": 0.7413716316223145, + "covertype_val_recall": 0.7447447180747986, + "covertype_val_f1-score": 0.740561842918396, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7447447180747986 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5831734538078308, + "lr": 0.0, + "covertype_test_accuracy": 0.7720000147819519, + "covertype_test_precision": 0.7723827958106995, + "covertype_test_recall": 0.7720000147819519, + "covertype_test_f1-score": 0.7695575952529907, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7720000147819519 + }, + "5": { + "covertype_test_loss": 0.5632960796356201, + "covertype_test_accuracy": 0.7757894992828369, + "covertype_test_precision": 0.7768990397453308, + "covertype_test_recall": 0.7757894992828369, + "covertype_test_f1-score": 0.773531973361969, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7757894992828369 + }, + "10": { + "covertype_test_loss": 0.5384829640388489, + "covertype_test_accuracy": 0.7866666913032532, + "covertype_test_precision": 0.7870091795921326, + "covertype_test_recall": 0.7866666913032532, + "covertype_test_f1-score": 0.783894419670105, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7866666913032532 + }, + "20": { + "covertype_test_loss": 0.5226355195045471, + "covertype_test_accuracy": 0.7931249737739563, + "covertype_test_precision": 0.7948416471481323, + "covertype_test_recall": 0.7931249737739563, + "covertype_test_f1-score": 0.7904396653175354, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7931249737739563 + }, + "50": { + "covertype_test_loss": 0.5002013444900513, + "covertype_test_accuracy": 0.7879999876022339, + "covertype_test_precision": 0.7880773544311523, + "covertype_test_recall": 0.7879999876022339, + "covertype_test_f1-score": 0.7856884598731995, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7879999876022339 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5911195874214172, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7617617845535278, + "covertype_val_precision": 0.7627468705177307, + "covertype_val_recall": 0.7617617845535278, + "covertype_val_f1-score": 0.7594560384750366, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7617617845535278 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5834123492240906, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7612149119377136, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7596310973167419, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7620000243186951 + }, + "5": { + "covertype_test_loss": 0.5655433535575867, + "covertype_test_accuracy": 0.7652631402015686, + "covertype_test_precision": 0.7652440667152405, + "covertype_test_recall": 0.7652631402015686, + "covertype_test_f1-score": 0.7633615732192993, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7652631402015686 + }, + "10": { + "covertype_test_loss": 0.5467802286148071, + "covertype_test_accuracy": 0.7683333158493042, + "covertype_test_precision": 0.7686766982078552, + "covertype_test_recall": 0.7683333158493042, + "covertype_test_f1-score": 0.7662100195884705, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7683333158493042 + }, + "20": { + "covertype_test_loss": 0.5264754295349121, + "covertype_test_accuracy": 0.7693750262260437, + "covertype_test_precision": 0.7691298127174377, + "covertype_test_recall": 0.7693750262260437, + "covertype_test_f1-score": 0.767943263053894, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7693750262260437 + }, + "50": { + "covertype_test_loss": 0.5022599101066589, + "covertype_test_accuracy": 0.7680000066757202, + "covertype_test_precision": 0.7671343684196472, + "covertype_test_recall": 0.7680000066757202, + "covertype_test_f1-score": 0.766204297542572, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7680000066757202 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5893413782119751, + "std": 0.01387374491287896, + "n": 5, + "ci95": 0.01722376791121307 + }, + "lr": { + "mean": 2.73004642849628e-05, + "std": 6.0495656305931926e-05, + "n": 5, + "ci95": 7.510323639312651e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7641000032424927, + "std": 0.00602495391205912, + "n": 5, + "ci95": 0.007479769053612184 + }, + "covertype_test_precision": { + "mean": 0.7646567225456238, + "std": 0.005929986414888851, + "n": 5, + "ci95": 0.007361870235330533 + }, + "covertype_test_recall": { + "mean": 0.7641000032424927, + "std": 0.00602495391205912, + "n": 5, + "ci95": 0.007479769053612184 + }, + "covertype_test_f1-score": { + "mean": 0.7624303221702575, + "std": 0.005634874195597339, + "n": 5, + "ci95": 0.006995498761387582 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7641000032424927, + "std": 0.00602495391205912, + "n": 5, + "ci95": 0.007479769053612184 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5735094308853149, + "std": 0.015386774187104832, + "n": 5, + "ci95": 0.019102140710034396 + }, + "covertype_test_accuracy": { + "mean": 0.7686315894126892, + "std": 0.004973627193866443, + "n": 5, + "ci95": 0.006174583791325969 + }, + "covertype_test_precision": { + "mean": 0.7701749801635742, + "std": 0.005144630259226115, + "n": 5, + "ci95": 0.006386878101791982 + }, + "covertype_test_recall": { + "mean": 0.7686315894126892, + "std": 0.004973627193866443, + "n": 5, + "ci95": 0.006174583791325969 + }, + "covertype_test_f1-score": { + "mean": 0.7672496318817139, + "std": 0.004656197679587463, + "n": 5, + "ci95": 0.005780506178075711 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7686315894126892, + "std": 0.004973627193866443, + "n": 5, + "ci95": 0.006174583791325969 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5528337597846985, + "std": 0.018666645115640163, + "n": 5, + "ci95": 0.02317398547916997 + }, + "covertype_test_accuracy": { + "mean": 0.7744444489479065, + "std": 0.008098552248944513, + "n": 5, + "ci95": 0.010054068690795014 + }, + "covertype_test_precision": { + "mean": 0.7755690455436707, + "std": 0.007844344590180305, + "n": 5, + "ci95": 0.009738478794678134 + }, + "covertype_test_recall": { + "mean": 0.7744444489479065, + "std": 0.008098552248944513, + "n": 5, + "ci95": 0.010054068690795014 + }, + "covertype_test_f1-score": { + "mean": 0.7727416396141052, + "std": 0.007633071685756063, + "n": 5, + "ci95": 0.0094761908908294 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7744444489479065, + "std": 0.008098552248944513, + "n": 5, + "ci95": 0.010054068690795014 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5293017983436584, + "std": 0.019012098721716518, + "n": 5, + "ci95": 0.023602854019893055 + }, + "covertype_test_accuracy": { + "mean": 0.7798750042915344, + "std": 0.009816663328102567, + "n": 5, + "ci95": 0.01218704336049877 + }, + "covertype_test_precision": { + "mean": 0.7807084321975708, + "std": 0.010239722262419194, + "n": 5, + "ci95": 0.012712256195475323 + }, + "covertype_test_recall": { + "mean": 0.7798750042915344, + "std": 0.009816663328102567, + "n": 5, + "ci95": 0.01218704336049877 + }, + "covertype_test_f1-score": { + "mean": 0.778523325920105, + "std": 0.009274930456873493, + "n": 5, + "ci95": 0.011514500993422161 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7798750042915344, + "std": 0.009816663328102567, + "n": 5, + "ci95": 0.01218704336049877 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5047297656536103, + "std": 0.017720295450641275, + "n": 5, + "ci95": 0.02199912554804466 + }, + "covertype_test_accuracy": { + "mean": 0.7802000045776367, + "std": 0.008318645875605523, + "n": 5, + "ci95": 0.010327307212055945 + }, + "covertype_test_precision": { + "mean": 0.7790425062179566, + "std": 0.00839063894820248, + "n": 5, + "ci95": 0.010416684087687703 + }, + "covertype_test_recall": { + "mean": 0.7802000045776367, + "std": 0.008318645875605523, + "n": 5, + "ci95": 0.010327307212055945 + }, + "covertype_test_f1-score": { + "mean": 0.778372073173523, + "std": 0.008167114240222397, + "n": 5, + "ci95": 0.010139185999259052 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7802000045776367, + "std": 0.008318645875605523, + "n": 5, + "ci95": 0.010327307212055945 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..8d3ff4f3bdd88c0f9ddafc7910d3bf84c01d1d91 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp0amp3_0_", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp0amp3_0_/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5587286949157715, + "lr": 0.0, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7649514675140381, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7651687860488892, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5631707310676575, + "lr": 0.0, + "covertype_test_accuracy": 0.7835000157356262, + "covertype_test_precision": 0.7833352088928223, + "covertype_test_recall": 0.7835000157356262, + "covertype_test_f1-score": 0.7811163663864136, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7835000157356262 + }, + "5": { + "covertype_test_loss": 0.547602653503418, + "covertype_test_accuracy": 0.7878947257995605, + "covertype_test_precision": 0.7863022685050964, + "covertype_test_recall": 0.7878947257995605, + "covertype_test_f1-score": 0.786182165145874, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7878947257995605 + }, + "10": { + "covertype_test_loss": 0.5228370428085327, + "covertype_test_accuracy": 0.7944444417953491, + "covertype_test_precision": 0.7914934158325195, + "covertype_test_recall": 0.7944444417953491, + "covertype_test_f1-score": 0.7920671105384827, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7944444417953491 + }, + "20": { + "covertype_test_loss": 0.4920501708984375, + "covertype_test_accuracy": 0.8012499809265137, + "covertype_test_precision": 0.8001256585121155, + "covertype_test_recall": 0.8012499809265137, + "covertype_test_f1-score": 0.7999598383903503, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8012499809265137 + }, + "50": { + "covertype_test_loss": 0.4451545476913452, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7987114787101746, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7977815270423889, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.800000011920929 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5728197693824768, + "lr": 2.4471739379805513e-05, + "covertype_val_accuracy": 0.7737737894058228, + "covertype_val_precision": 0.7679265737533569, + "covertype_val_recall": 0.7737737894058228, + "covertype_val_f1-score": 0.7689816951751709, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7737737894058228 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5615999698638916, + "lr": 2.4471744836773723e-05, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7864114046096802, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.7850546836853027, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5507770776748657, + "covertype_test_accuracy": 0.7915789484977722, + "covertype_test_precision": 0.790330708026886, + "covertype_test_recall": 0.7915789484977722, + "covertype_test_f1-score": 0.7898779511451721, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7915789484977722 + }, + "10": { + "covertype_test_loss": 0.5133296847343445, + "covertype_test_accuracy": 0.8005555272102356, + "covertype_test_precision": 0.7982085943222046, + "covertype_test_recall": 0.8005555272102356, + "covertype_test_f1-score": 0.7982110381126404, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8005555272102356 + }, + "20": { + "covertype_test_loss": 0.4861232042312622, + "covertype_test_accuracy": 0.8050000071525574, + "covertype_test_precision": 0.8038194179534912, + "covertype_test_recall": 0.8050000071525574, + "covertype_test_f1-score": 0.8035538792610168, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8050000071525574 + }, + "50": { + "covertype_test_loss": 0.4469592273235321, + "covertype_test_accuracy": 0.8090000152587891, + "covertype_test_precision": 0.8080033659934998, + "covertype_test_recall": 0.8090000152587891, + "covertype_test_f1-score": 0.8061673641204834, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8090000152587891 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5769650340080261, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.781781792640686, + "covertype_val_precision": 0.7766842246055603, + "covertype_val_recall": 0.781781792640686, + "covertype_val_f1-score": 0.7771526575088501, + "covertype_val_support": 999.0, + "covertype_val_score": 0.781781792640686 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5657130479812622, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7849203944206238, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7833549976348877, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7850000262260437 + }, + "5": { + "covertype_test_loss": 0.5525266528129578, + "covertype_test_accuracy": 0.7921052575111389, + "covertype_test_precision": 0.7906132340431213, + "covertype_test_recall": 0.7921052575111389, + "covertype_test_f1-score": 0.7905948162078857, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7921052575111389 + }, + "10": { + "covertype_test_loss": 0.5172749757766724, + "covertype_test_accuracy": 0.7983333468437195, + "covertype_test_precision": 0.7961457967758179, + "covertype_test_recall": 0.7983333468437195, + "covertype_test_f1-score": 0.7963159084320068, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7983333468437195 + }, + "20": { + "covertype_test_loss": 0.48949378728866577, + "covertype_test_accuracy": 0.8056250214576721, + "covertype_test_precision": 0.8047004342079163, + "covertype_test_recall": 0.8056250214576721, + "covertype_test_f1-score": 0.8044635653495789, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8056250214576721 + }, + "50": { + "covertype_test_loss": 0.4409017562866211, + "covertype_test_accuracy": 0.8119999766349792, + "covertype_test_precision": 0.8106054067611694, + "covertype_test_recall": 0.8119999766349792, + "covertype_test_f1-score": 0.8096710443496704, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8119999766349792 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5718360543251038, + "lr": 0.0, + "covertype_val_accuracy": 0.7777777910232544, + "covertype_val_precision": 0.7704772353172302, + "covertype_val_recall": 0.7777777910232544, + "covertype_val_f1-score": 0.7730730175971985, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7777777910232544 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5730385780334473, + "lr": 0.0, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7851855158805847, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.7844406366348267, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5611764788627625, + "covertype_test_accuracy": 0.7910526394844055, + "covertype_test_precision": 0.7896812558174133, + "covertype_test_recall": 0.7910526394844055, + "covertype_test_f1-score": 0.7893093228340149, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7910526394844055 + }, + "10": { + "covertype_test_loss": 0.5074337124824524, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7970515489578247, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7972519397735596, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.800000011920929 + }, + "20": { + "covertype_test_loss": 0.4877593517303467, + "covertype_test_accuracy": 0.8037499785423279, + "covertype_test_precision": 0.8027383685112, + "covertype_test_recall": 0.8037499785423279, + "covertype_test_f1-score": 0.8021208047866821, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8037499785423279 + }, + "50": { + "covertype_test_loss": 0.4471113383769989, + "covertype_test_accuracy": 0.8040000200271606, + "covertype_test_precision": 0.8015535473823547, + "covertype_test_recall": 0.8040000200271606, + "covertype_test_f1-score": 0.8016497492790222, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8040000200271606 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5721086859703064, + "lr": 0.0, + "covertype_val_accuracy": 0.7687687873840332, + "covertype_val_precision": 0.760955810546875, + "covertype_val_recall": 0.7687687873840332, + "covertype_val_f1-score": 0.7631721496582031, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7687687873840332 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.554989755153656, + "lr": 0.0, + "covertype_test_accuracy": 0.7835000157356262, + "covertype_test_precision": 0.7833259105682373, + "covertype_test_recall": 0.7835000157356262, + "covertype_test_f1-score": 0.7816469669342041, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7835000157356262 + }, + "5": { + "covertype_test_loss": 0.5420681238174438, + "covertype_test_accuracy": 0.7884210348129272, + "covertype_test_precision": 0.7873433232307434, + "covertype_test_recall": 0.7884210348129272, + "covertype_test_f1-score": 0.7868950366973877, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7884210348129272 + }, + "10": { + "covertype_test_loss": 0.5132265686988831, + "covertype_test_accuracy": 0.7961111068725586, + "covertype_test_precision": 0.793499231338501, + "covertype_test_recall": 0.7961111068725586, + "covertype_test_f1-score": 0.7938660979270935, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7961111068725586 + }, + "20": { + "covertype_test_loss": 0.4921097457408905, + "covertype_test_accuracy": 0.8018749952316284, + "covertype_test_precision": 0.8014104962348938, + "covertype_test_recall": 0.8018749952316284, + "covertype_test_f1-score": 0.8002511262893677, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8018749952316284 + }, + "50": { + "covertype_test_loss": 0.4332427382469177, + "covertype_test_accuracy": 0.8059999942779541, + "covertype_test_precision": 0.803403377532959, + "covertype_test_recall": 0.8059999942779541, + "covertype_test_f1-score": 0.8032664060592651, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8059999942779541 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5637024164199829, + "std": 0.006554006219954108, + "n": 5, + "ci95": 0.008136568945876025 + }, + "lr": { + "mean": 5.682878781954059e-06, + "std": 1.0641137401812879e-05, + "n": 5, + "ci95": 1.3210599017862518e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7850000023841858, + "std": 0.0014999806881543054, + "n": 5, + "ci95": 0.0018621734366824467 + }, + "covertype_test_precision": { + "mean": 0.7846356868743897, + "std": 0.0013175071869880907, + "n": 5, + "ci95": 0.0016356389823033825 + }, + "covertype_test_recall": { + "mean": 0.7850000023841858, + "std": 0.0014999806881543054, + "n": 5, + "ci95": 0.0018621734366824467 + }, + "covertype_test_f1-score": { + "mean": 0.7831227302551269, + "std": 0.0017122093016612948, + "n": 5, + "ci95": 0.002125647819851309 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7850000023841858, + "std": 0.0014999806881543054, + "n": 5, + "ci95": 0.0018621734366824467 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5508301973342895, + "std": 0.007019923358743781, + "n": 5, + "ci95": 0.0087149887391447 + }, + "covertype_test_accuracy": { + "mean": 0.7902105212211609, + "std": 0.0019194368984927449, + "n": 5, + "ci95": 0.0023829136161475934 + }, + "covertype_test_precision": { + "mean": 0.7888541579246521, + "std": 0.0019205078105246074, + "n": 5, + "ci95": 0.0023842431158901615 + }, + "covertype_test_recall": { + "mean": 0.7902105212211609, + "std": 0.0019194368984927449, + "n": 5, + "ci95": 0.0023829136161475934 + }, + "covertype_test_f1-score": { + "mean": 0.7885718584060669, + "std": 0.001927722439439925, + "n": 5, + "ci95": 0.002393199824751631 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7902105212211609, + "std": 0.0019194368984927449, + "n": 5, + "ci95": 0.0023829136161475934 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.514820396900177, + "std": 0.00569247720383117, + "n": 5, + "ci95": 0.007067010876612231 + }, + "covertype_test_accuracy": { + "mean": 0.7978888869285583, + "std": 0.0025879561406957695, + "n": 5, + "ci95": 0.003212856817798658 + }, + "covertype_test_precision": { + "mean": 0.7952797174453735, + "std": 0.002737426289192121, + "n": 5, + "ci95": 0.0033984187668990675 + }, + "covertype_test_recall": { + "mean": 0.7978888869285583, + "std": 0.0025879561406957695, + "n": 5, + "ci95": 0.003212856817798658 + }, + "covertype_test_f1-score": { + "mean": 0.7955424189567566, + "std": 0.0025263657883990123, + "n": 5, + "ci95": 0.0031363945547117503 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7978888869285583, + "std": 0.0025879561406957695, + "n": 5, + "ci95": 0.003212856817798658 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.48950725197792055, + "std": 0.0026337485713147303, + "n": 5, + "ci95": 0.0032697065149802132 + }, + "covertype_test_accuracy": { + "mean": 0.8034999966621399, + "std": 0.0019060071650666437, + "n": 5, + "ci95": 0.002366241072930664 + }, + "covertype_test_precision": { + "mean": 0.8025588750839233, + "std": 0.0018334924709574106, + "n": 5, + "ci95": 0.002276216622478889 + }, + "covertype_test_recall": { + "mean": 0.8034999966621399, + "std": 0.0019060071650666437, + "n": 5, + "ci95": 0.002366241072930664 + }, + "covertype_test_f1-score": { + "mean": 0.8020698428153992, + "std": 0.0019808279418505738, + "n": 5, + "ci95": 0.002459128444174372 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8034999966621399, + "std": 0.0019060071650666437, + "n": 5, + "ci95": 0.002366241072930664 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.442673921585083, + "std": 0.005837289780784198, + "n": 5, + "ci95": 0.007246790613930902 + }, + "covertype_test_accuracy": { + "mean": 0.8062000036239624, + "std": 0.004604334391800283, + "n": 5, + "ci95": 0.005716119724557339 + }, + "covertype_test_precision": { + "mean": 0.8044554352760315, + "std": 0.004820030537160582, + "n": 5, + "ci95": 0.00598389892695426 + }, + "covertype_test_recall": { + "mean": 0.8062000036239624, + "std": 0.004604334391800283, + "n": 5, + "ci95": 0.005716119724557339 + }, + "covertype_test_f1-score": { + "mean": 0.803707218170166, + "std": 0.004504465831071499, + "n": 5, + "ci95": 0.005592136407693651 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8062000036239624, + "std": 0.004604334391800283, + "n": 5, + "ci95": 0.005716119724557339 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..3963a923d2c438f2e9464f82041e1ec911e93d7a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp5uro2_s3", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp5uro2_s3/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6124319434165955, + "lr": 0.0, + "covertype_val_accuracy": 0.7307307124137878, + "covertype_val_precision": 0.7361064553260803, + "covertype_val_recall": 0.7307307124137878, + "covertype_val_f1-score": 0.7266823649406433, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7307307124137878 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5955405831336975, + "lr": 0.0, + "covertype_test_accuracy": 0.7394999861717224, + "covertype_test_precision": 0.7443932890892029, + "covertype_test_recall": 0.7394999861717224, + "covertype_test_f1-score": 0.7355998754501343, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7394999861717224 + }, + "5": { + "covertype_test_loss": 0.5803569555282593, + "covertype_test_accuracy": 0.7457894682884216, + "covertype_test_precision": 0.7521400451660156, + "covertype_test_recall": 0.7457894682884216, + "covertype_test_f1-score": 0.7431672811508179, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7457894682884216 + }, + "10": { + "covertype_test_loss": 0.5641058087348938, + "covertype_test_accuracy": 0.7516666650772095, + "covertype_test_precision": 0.7575294971466064, + "covertype_test_recall": 0.7516666650772095, + "covertype_test_f1-score": 0.7486236691474915, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7516666650772095 + }, + "20": { + "covertype_test_loss": 0.5413378477096558, + "covertype_test_accuracy": 0.7587500214576721, + "covertype_test_precision": 0.7630542516708374, + "covertype_test_recall": 0.7587500214576721, + "covertype_test_f1-score": 0.7562359571456909, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7587500214576721 + }, + "50": { + "covertype_test_loss": 0.5211961269378662, + "covertype_test_accuracy": 0.765999972820282, + "covertype_test_precision": 0.7663714289665222, + "covertype_test_recall": 0.765999972820282, + "covertype_test_f1-score": 0.7631366848945618, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.765999972820282 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5972707867622375, + "lr": 0.0, + "covertype_val_accuracy": 0.7367367148399353, + "covertype_val_precision": 0.7370857000350952, + "covertype_val_recall": 0.7367367148399353, + "covertype_val_f1-score": 0.7327419519424438, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7367367148399353 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.595283567905426, + "lr": 0.0, + "covertype_test_accuracy": 0.7369999885559082, + "covertype_test_precision": 0.7399511933326721, + "covertype_test_recall": 0.7369999885559082, + "covertype_test_f1-score": 0.7351956963539124, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7369999885559082 + }, + "5": { + "covertype_test_loss": 0.5839108228683472, + "covertype_test_accuracy": 0.7426315546035767, + "covertype_test_precision": 0.7469834685325623, + "covertype_test_recall": 0.7426315546035767, + "covertype_test_f1-score": 0.7418118715286255, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7426315546035767 + }, + "10": { + "covertype_test_loss": 0.5697769522666931, + "covertype_test_accuracy": 0.7472222447395325, + "covertype_test_precision": 0.7499242424964905, + "covertype_test_recall": 0.7472222447395325, + "covertype_test_f1-score": 0.7456064820289612, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7472222447395325 + }, + "20": { + "covertype_test_loss": 0.5394108295440674, + "covertype_test_accuracy": 0.753125011920929, + "covertype_test_precision": 0.7557849884033203, + "covertype_test_recall": 0.753125011920929, + "covertype_test_f1-score": 0.7524816989898682, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.753125011920929 + }, + "50": { + "covertype_test_loss": 0.5136950016021729, + "covertype_test_accuracy": 0.7609999775886536, + "covertype_test_precision": 0.7590331435203552, + "covertype_test_recall": 0.7609999775886536, + "covertype_test_f1-score": 0.7591392993927002, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7609999775886536 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5779473781585693, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.745046079158783, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7441829442977905, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5682770013809204, + "lr": 0.0, + "covertype_test_accuracy": 0.7524999976158142, + "covertype_test_precision": 0.7549177408218384, + "covertype_test_recall": 0.7524999976158142, + "covertype_test_f1-score": 0.7511112689971924, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7524999976158142 + }, + "5": { + "covertype_test_loss": 0.5534572601318359, + "covertype_test_accuracy": 0.7573684453964233, + "covertype_test_precision": 0.760320782661438, + "covertype_test_recall": 0.7573684453964233, + "covertype_test_f1-score": 0.7564815282821655, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7573684453964233 + }, + "10": { + "covertype_test_loss": 0.5378722548484802, + "covertype_test_accuracy": 0.7627778053283691, + "covertype_test_precision": 0.764252781867981, + "covertype_test_recall": 0.7627778053283691, + "covertype_test_f1-score": 0.7612034678459167, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7627778053283691 + }, + "20": { + "covertype_test_loss": 0.5160539150238037, + "covertype_test_accuracy": 0.765625, + "covertype_test_precision": 0.7679114937782288, + "covertype_test_recall": 0.765625, + "covertype_test_f1-score": 0.7648558616638184, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.765625 + }, + "50": { + "covertype_test_loss": 0.49852728843688965, + "covertype_test_accuracy": 0.7630000114440918, + "covertype_test_precision": 0.7626486420631409, + "covertype_test_recall": 0.7630000114440918, + "covertype_test_f1-score": 0.7616783380508423, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7630000114440918 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6038905382156372, + "lr": 0.0, + "covertype_val_accuracy": 0.7417417168617249, + "covertype_val_precision": 0.7397958636283875, + "covertype_val_recall": 0.7417417168617249, + "covertype_val_f1-score": 0.7379695177078247, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7417417168617249 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5737650394439697, + "lr": 0.0, + "covertype_test_accuracy": 0.7540000081062317, + "covertype_test_precision": 0.7573488354682922, + "covertype_test_recall": 0.7540000081062317, + "covertype_test_f1-score": 0.7501764893531799, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7540000081062317 + }, + "5": { + "covertype_test_loss": 0.5582577586174011, + "covertype_test_accuracy": 0.7605262994766235, + "covertype_test_precision": 0.7637713551521301, + "covertype_test_recall": 0.7605262994766235, + "covertype_test_f1-score": 0.7572364211082458, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7605262994766235 + }, + "10": { + "covertype_test_loss": 0.5412079095840454, + "covertype_test_accuracy": 0.7677778005599976, + "covertype_test_precision": 0.7698725461959839, + "covertype_test_recall": 0.7677778005599976, + "covertype_test_f1-score": 0.7636783719062805, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7677778005599976 + }, + "20": { + "covertype_test_loss": 0.5134365558624268, + "covertype_test_accuracy": 0.7743750214576721, + "covertype_test_precision": 0.7774174213409424, + "covertype_test_recall": 0.7743750214576721, + "covertype_test_f1-score": 0.770300030708313, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7743750214576721 + }, + "50": { + "covertype_test_loss": 0.4924502670764923, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.780793309211731, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7764970064163208, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5761695504188538, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.7481011748313904, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7442154884338379, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5735441446304321, + "lr": 0.0, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7544926404953003, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7505362629890442, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7549999952316284 + }, + "5": { + "covertype_test_loss": 0.5565406680107117, + "covertype_test_accuracy": 0.7631579041481018, + "covertype_test_precision": 0.7634173035621643, + "covertype_test_recall": 0.7631579041481018, + "covertype_test_f1-score": 0.7596498727798462, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7631579041481018 + }, + "10": { + "covertype_test_loss": 0.5408108830451965, + "covertype_test_accuracy": 0.7705555558204651, + "covertype_test_precision": 0.7697609066963196, + "covertype_test_recall": 0.7705555558204651, + "covertype_test_f1-score": 0.766350507736206, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7705555558204651 + }, + "20": { + "covertype_test_loss": 0.5219070911407471, + "covertype_test_accuracy": 0.7762500047683716, + "covertype_test_precision": 0.7769439220428467, + "covertype_test_recall": 0.7762500047683716, + "covertype_test_f1-score": 0.7726730108261108, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7762500047683716 + }, + "50": { + "covertype_test_loss": 0.4904567003250122, + "covertype_test_accuracy": 0.7879999876022339, + "covertype_test_precision": 0.7893238663673401, + "covertype_test_recall": 0.7879999876022339, + "covertype_test_f1-score": 0.784727156162262, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7879999876022339 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5812820672988892, + "std": 0.013084916770576924, + "n": 5, + "ci95": 0.016244465427985834 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.747599995136261, + "std": 0.008626999427031198, + "n": 5, + "ci95": 0.010710117335617027 + }, + "covertype_test_precision": { + "mean": 0.7502207398414612, + "std": 0.007591828969974245, + "n": 5, + "ci95": 0.009424989505110198 + }, + "covertype_test_recall": { + "mean": 0.747599995136261, + "std": 0.008626999427031198, + "n": 5, + "ci95": 0.010710117335617027 + }, + "covertype_test_f1-score": { + "mean": 0.7445239186286926, + "std": 0.00833887436709291, + "n": 5, + "ci95": 0.010352420175049035 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.747599995136261, + "std": 0.008626999427031198, + "n": 5, + "ci95": 0.010710117335617027 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.566504693031311, + "std": 0.014425565494053303, + "n": 5, + "ci95": 0.017908833816522793 + }, + "covertype_test_accuracy": { + "mean": 0.7538947343826294, + "std": 0.009143374583549193, + "n": 5, + "ci95": 0.011351178988893212 + }, + "covertype_test_precision": { + "mean": 0.7573265910148621, + "std": 0.007441058195266124, + "n": 5, + "ci95": 0.00923781287416639 + }, + "covertype_test_recall": { + "mean": 0.7538947343826294, + "std": 0.009143374583549193, + "n": 5, + "ci95": 0.011351178988893212 + }, + "covertype_test_f1-score": { + "mean": 0.7516693949699402, + "std": 0.008474861959096868, + "n": 5, + "ci95": 0.010521244002947632 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7538947343826294, + "std": 0.009143374583549193, + "n": 5, + "ci95": 0.011351178988893212 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5507547616958618, + "std": 0.014967266631622752, + "n": 5, + "ci95": 0.018581336787373524 + }, + "covertype_test_accuracy": { + "mean": 0.7600000143051148, + "std": 0.010153147825959585, + "n": 5, + "ci95": 0.012604777067814547 + }, + "covertype_test_precision": { + "mean": 0.7622679948806763, + "std": 0.008554733941903238, + "n": 5, + "ci95": 0.010620402269378512 + }, + "covertype_test_recall": { + "mean": 0.7600000143051148, + "std": 0.010153147825959585, + "n": 5, + "ci95": 0.012604777067814547 + }, + "covertype_test_f1-score": { + "mean": 0.7570924997329712, + "std": 0.009349253679828867, + "n": 5, + "ci95": 0.011606770669031404 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7600000143051148, + "std": 0.010153147825959585, + "n": 5, + "ci95": 0.012604777067814547 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5264292478561401, + "std": 0.013111972493644984, + "n": 5, + "ci95": 0.016278054159631152 + }, + "covertype_test_accuracy": { + "mean": 0.7656250119209289, + "std": 0.009911718238672318, + "n": 5, + "ci95": 0.01230505069945126 + }, + "covertype_test_precision": { + "mean": 0.7682224154472351, + "std": 0.009248094280164399, + "n": 5, + "ci95": 0.011481184820884446 + }, + "covertype_test_recall": { + "mean": 0.7656250119209289, + "std": 0.009911718238672318, + "n": 5, + "ci95": 0.01230505069945126 + }, + "covertype_test_f1-score": { + "mean": 0.7633093118667602, + "std": 0.008749433867680774, + "n": 5, + "ci95": 0.010862115401267629 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7656250119209289, + "std": 0.009911718238672318, + "n": 5, + "ci95": 0.01230505069945126 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5032650768756867, + "std": 0.01354406831679438, + "n": 5, + "ci95": 0.01681448597527028 + }, + "covertype_test_accuracy": { + "mean": 0.7715999841690063, + "std": 0.011802538873029761, + "n": 5, + "ci95": 0.014652438226929392 + }, + "covertype_test_precision": { + "mean": 0.7716340780258178, + "std": 0.012884459752512829, + "n": 5, + "ci95": 0.015995605067860227 + }, + "covertype_test_recall": { + "mean": 0.7715999841690063, + "std": 0.011802538873029761, + "n": 5, + "ci95": 0.014652438226929392 + }, + "covertype_test_f1-score": { + "mean": 0.7690356969833374, + "std": 0.01105396748882092, + "n": 5, + "ci95": 0.013723113097517519 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7715999841690063, + "std": 0.011802538873029761, + "n": 5, + "ci95": 0.014652438226929392 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..fee0c722ab53aef47bf515cb29d1fdbf91d3fd25 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp1nngheje", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp1nngheje/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6566958427429199, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7247247099876404, + "covertype_val_precision": 0.7202741503715515, + "covertype_val_recall": 0.7247247099876404, + "covertype_val_f1-score": 0.7161605954170227, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7247247099876404 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6504576206207275, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7250000238418579, + "covertype_test_precision": 0.7198023796081543, + "covertype_test_recall": 0.7250000238418579, + "covertype_test_f1-score": 0.7195613384246826, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7250000238418579 + }, + "5": { + "covertype_test_loss": 0.6344731450080872, + "covertype_test_accuracy": 0.7315789461135864, + "covertype_test_precision": 0.7271226644515991, + "covertype_test_recall": 0.7315789461135864, + "covertype_test_f1-score": 0.7270435690879822, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7315789461135864 + }, + "10": { + "covertype_test_loss": 0.6216390132904053, + "covertype_test_accuracy": 0.7377777695655823, + "covertype_test_precision": 0.730815589427948, + "covertype_test_recall": 0.7377777695655823, + "covertype_test_f1-score": 0.7322006821632385, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7377777695655823 + }, + "20": { + "covertype_test_loss": 0.5999553799629211, + "covertype_test_accuracy": 0.7450000047683716, + "covertype_test_precision": 0.7376253604888916, + "covertype_test_recall": 0.7450000047683716, + "covertype_test_f1-score": 0.7395234107971191, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7450000047683716 + }, + "50": { + "covertype_test_loss": 0.5640189051628113, + "covertype_test_accuracy": 0.7570000290870667, + "covertype_test_precision": 0.745987057685852, + "covertype_test_recall": 0.7570000290870667, + "covertype_test_f1-score": 0.7512027621269226, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7570000290870667 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6598713397979736, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.7299927473068237, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.7253754734992981, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6583989858627319, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.7079524397850037, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7068215012550354, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7200000286102295 + }, + "5": { + "covertype_test_loss": 0.6446176767349243, + "covertype_test_accuracy": 0.7273684144020081, + "covertype_test_precision": 0.715800940990448, + "covertype_test_recall": 0.7273684144020081, + "covertype_test_f1-score": 0.7174137234687805, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7273684144020081 + }, + "10": { + "covertype_test_loss": 0.6313472390174866, + "covertype_test_accuracy": 0.7338888645172119, + "covertype_test_precision": 0.7200285792350769, + "covertype_test_recall": 0.7338888645172119, + "covertype_test_f1-score": 0.7254685759544373, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7338888645172119 + }, + "20": { + "covertype_test_loss": 0.6112798452377319, + "covertype_test_accuracy": 0.7393749952316284, + "covertype_test_precision": 0.7276087403297424, + "covertype_test_recall": 0.7393749952316284, + "covertype_test_f1-score": 0.7318838834762573, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7393749952316284 + }, + "50": { + "covertype_test_loss": 0.5794050097465515, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7397478222846985, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7442343831062317, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7519999742507935 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.7162241339683533, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.672672688961029, + "covertype_val_precision": 0.6593693494796753, + "covertype_val_recall": 0.672672688961029, + "covertype_val_f1-score": 0.6317560076713562, + "covertype_val_support": 999.0, + "covertype_val_score": 0.672672688961029 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7266539931297302, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6675000190734863, + "covertype_test_precision": 0.6688277125358582, + "covertype_test_recall": 0.6675000190734863, + "covertype_test_f1-score": 0.6266601085662842, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6675000190734863 + }, + "5": { + "covertype_test_loss": 0.7135049104690552, + "covertype_test_accuracy": 0.6721052527427673, + "covertype_test_precision": 0.6771791577339172, + "covertype_test_recall": 0.6721052527427673, + "covertype_test_f1-score": 0.6331574320793152, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6721052527427673 + }, + "10": { + "covertype_test_loss": 0.6997355222702026, + "covertype_test_accuracy": 0.6755555272102356, + "covertype_test_precision": 0.685332715511322, + "covertype_test_recall": 0.6755555272102356, + "covertype_test_f1-score": 0.6377757787704468, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6755555272102356 + }, + "20": { + "covertype_test_loss": 0.6868727803230286, + "covertype_test_accuracy": 0.6731250286102295, + "covertype_test_precision": 0.6888667941093445, + "covertype_test_recall": 0.6731250286102295, + "covertype_test_f1-score": 0.6329194903373718, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6731250286102295 + }, + "50": { + "covertype_test_loss": 0.6768286228179932, + "covertype_test_accuracy": 0.6639999747276306, + "covertype_test_precision": 0.695481538772583, + "covertype_test_recall": 0.6639999747276306, + "covertype_test_f1-score": 0.6203709840774536, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6639999747276306 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6424408555030823, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7347347140312195, + "covertype_val_precision": 0.7221247553825378, + "covertype_val_recall": 0.7347347140312195, + "covertype_val_f1-score": 0.7248263359069824, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7347347140312195 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.650926411151886, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7225000262260437, + "covertype_test_precision": 0.7118163108825684, + "covertype_test_recall": 0.7225000262260437, + "covertype_test_f1-score": 0.7115631103515625, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7225000262260437 + }, + "5": { + "covertype_test_loss": 0.6352076530456543, + "covertype_test_accuracy": 0.7300000190734863, + "covertype_test_precision": 0.7180920243263245, + "covertype_test_recall": 0.7300000190734863, + "covertype_test_f1-score": 0.7214977741241455, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7300000190734863 + }, + "10": { + "covertype_test_loss": 0.6207131147384644, + "covertype_test_accuracy": 0.7344444394111633, + "covertype_test_precision": 0.7214475870132446, + "covertype_test_recall": 0.7344444394111633, + "covertype_test_f1-score": 0.7260822653770447, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7344444394111633 + }, + "20": { + "covertype_test_loss": 0.5953546762466431, + "covertype_test_accuracy": 0.7393749952316284, + "covertype_test_precision": 0.7262921929359436, + "covertype_test_recall": 0.7393749952316284, + "covertype_test_f1-score": 0.731135904788971, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7393749952316284 + }, + "50": { + "covertype_test_loss": 0.5573776960372925, + "covertype_test_accuracy": 0.7379999756813049, + "covertype_test_precision": 0.7258294820785522, + "covertype_test_recall": 0.7379999756813049, + "covertype_test_f1-score": 0.7291491031646729, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7379999756813049 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.749505341053009, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7307307124137878, + "covertype_val_precision": 0.7255398035049438, + "covertype_val_recall": 0.7307307124137878, + "covertype_val_f1-score": 0.7269264459609985, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7307307124137878 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7518482208251953, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7145000100135803, + "covertype_test_precision": 0.7098221182823181, + "covertype_test_recall": 0.7145000100135803, + "covertype_test_f1-score": 0.7100377678871155, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7145000100135803 + }, + "5": { + "covertype_test_loss": 0.7281477451324463, + "covertype_test_accuracy": 0.7221052646636963, + "covertype_test_precision": 0.7185410857200623, + "covertype_test_recall": 0.7221052646636963, + "covertype_test_f1-score": 0.7173740267753601, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7221052646636963 + }, + "10": { + "covertype_test_loss": 0.7016364932060242, + "covertype_test_accuracy": 0.7283333539962769, + "covertype_test_precision": 0.724869430065155, + "covertype_test_recall": 0.7283333539962769, + "covertype_test_f1-score": 0.7228618860244751, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7283333539962769 + }, + "20": { + "covertype_test_loss": 0.6871438026428223, + "covertype_test_accuracy": 0.7356250286102295, + "covertype_test_precision": 0.7286194562911987, + "covertype_test_recall": 0.7356250286102295, + "covertype_test_f1-score": 0.7287264466285706, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7356250286102295 + }, + "50": { + "covertype_test_loss": 0.5935227870941162, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7354559302330017, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7293534874916077, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7400000095367432 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6876570463180542, + "std": 0.04803706818376644, + "n": 5, + "ci95": 0.05963633602375497 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7099000215530396, + "std": 0.024019265358980905, + "n": 5, + "ci95": 0.029819075854341848 + }, + "covertype_test_precision": { + "mean": 0.7036441922187805, + "std": 0.019979899700792406, + "n": 5, + "ci95": 0.024804345005385656 + }, + "covertype_test_recall": { + "mean": 0.7099000215530396, + "std": 0.024019265358980905, + "n": 5, + "ci95": 0.029819075854341848 + }, + "covertype_test_f1-score": { + "mean": 0.694928765296936, + "std": 0.03845059724483111, + "n": 5, + "ci95": 0.047735068444117186 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7099000215530396, + "std": 0.024019265358980905, + "n": 5, + "ci95": 0.029819075854341848 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6711902260780335, + "std": 0.04578122288358257, + "n": 5, + "ci95": 0.05683578317101371 + }, + "covertype_test_accuracy": { + "mean": 0.7166315793991089, + "std": 0.0251494213292623, + "n": 5, + "ci95": 0.03122212486942996 + }, + "covertype_test_precision": { + "mean": 0.7113471746444702, + "std": 0.019579331236750413, + "n": 5, + "ci95": 0.02430705330076409 + }, + "covertype_test_recall": { + "mean": 0.7166315793991089, + "std": 0.0251494213292623, + "n": 5, + "ci95": 0.03122212486942996 + }, + "covertype_test_f1-score": { + "mean": 0.7032973051071167, + "std": 0.03940866425715164, + "n": 5, + "ci95": 0.0489244750511451 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7166315793991089, + "std": 0.0251494213292623, + "n": 5, + "ci95": 0.03122212486942996 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6550142765045166, + "std": 0.041905332207016935, + "n": 5, + "ci95": 0.052024000780490555 + }, + "covertype_test_accuracy": { + "mean": 0.721999990940094, + "std": 0.026183714450934297, + "n": 5, + "ci95": 0.032506163518814774 + }, + "covertype_test_precision": { + "mean": 0.7164987802505494, + "std": 0.017911676107473747, + "n": 5, + "ci95": 0.02223671792390837 + }, + "covertype_test_recall": { + "mean": 0.721999990940094, + "std": 0.026183714450934297, + "n": 5, + "ci95": 0.032506163518814774 + }, + "covertype_test_f1-score": { + "mean": 0.7088778376579284, + "std": 0.0398944118672692, + "n": 5, + "ci95": 0.04952751367933299 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.721999990940094, + "std": 0.026183714450934297, + "n": 5, + "ci95": 0.032506163518814774 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6361212968826294, + "std": 0.046813453701893944, + "n": 5, + "ci95": 0.05811726154307838 + }, + "covertype_test_accuracy": { + "mean": 0.7265000104904175, + "std": 0.03002471856177197, + "n": 5, + "ci95": 0.03727463546107101 + }, + "covertype_test_precision": { + "mean": 0.7218025088310241, + "std": 0.0189437608401038, + "n": 5, + "ci95": 0.023518014935721285 + }, + "covertype_test_recall": { + "mean": 0.7265000104904175, + "std": 0.03002471856177197, + "n": 5, + "ci95": 0.03727463546107101 + }, + "covertype_test_f1-score": { + "mean": 0.7128378272056579, + "std": 0.04485833553890419, + "n": 5, + "ci95": 0.05569005088800335 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7265000104904175, + "std": 0.03002471856177197, + "n": 5, + "ci95": 0.03727463546107101 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5942306041717529, + "std": 0.04825353752403671, + "n": 5, + "ci95": 0.059905075120525265 + }, + "covertype_test_accuracy": { + "mean": 0.7301999926567078, + "std": 0.037857639882902624, + "n": 5, + "ci95": 0.04699893266771115 + }, + "covertype_test_precision": { + "mean": 0.7285003662109375, + "std": 0.01986231422309297, + "n": 5, + "ci95": 0.024658366757238384 + }, + "covertype_test_recall": { + "mean": 0.7301999926567078, + "std": 0.037857639882902624, + "n": 5, + "ci95": 0.04699893266771115 + }, + "covertype_test_f1-score": { + "mean": 0.7148621439933777, + "std": 0.05367975525706476, + "n": 5, + "ci95": 0.06664153419889748 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7301999926567078, + "std": 0.037857639882902624, + "n": 5, + "ci95": 0.04699893266771115 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..a7b557e55baf335790e61f807ded3d4c955e4b48 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp66duydrp", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp66duydrp/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5929571986198425, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7517741322517395, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7517172694206238, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5649163126945496, + "lr": 0.0, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7819108366966248, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.7806441783905029, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.781000018119812 + }, + "5": { + "covertype_test_loss": 0.5457420349121094, + "covertype_test_accuracy": 0.7863157987594604, + "covertype_test_precision": 0.7867329716682434, + "covertype_test_recall": 0.7863157987594604, + "covertype_test_f1-score": 0.785585880279541, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7863157987594604 + }, + "10": { + "covertype_test_loss": 0.5194141268730164, + "covertype_test_accuracy": 0.7938888669013977, + "covertype_test_precision": 0.7922252416610718, + "covertype_test_recall": 0.7938888669013977, + "covertype_test_f1-score": 0.79254150390625, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7938888669013977 + }, + "20": { + "covertype_test_loss": 0.4971808195114136, + "covertype_test_accuracy": 0.7943750023841858, + "covertype_test_precision": 0.7943885326385498, + "covertype_test_recall": 0.7943750023841858, + "covertype_test_f1-score": 0.7940180897712708, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7943750023841858 + }, + "50": { + "covertype_test_loss": 0.46182334423065186, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7862932682037354, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7854461073875427, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7870000004768372 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5935730338096619, + "lr": 0.0, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7461211681365967, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7464765310287476, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5718835592269897, + "lr": 0.0, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7794024348258972, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7777809500694275, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7789999842643738 + }, + "5": { + "covertype_test_loss": 0.5576015114784241, + "covertype_test_accuracy": 0.7831578850746155, + "covertype_test_precision": 0.7852410078048706, + "covertype_test_recall": 0.7831578850746155, + "covertype_test_f1-score": 0.7827222347259521, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7831578850746155 + }, + "10": { + "covertype_test_loss": 0.5362340807914734, + "covertype_test_accuracy": 0.7872222065925598, + "covertype_test_precision": 0.7887309193611145, + "covertype_test_recall": 0.7872222065925598, + "covertype_test_f1-score": 0.7865650653839111, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7872222065925598 + }, + "20": { + "covertype_test_loss": 0.5101656913757324, + "covertype_test_accuracy": 0.7925000190734863, + "covertype_test_precision": 0.7941914200782776, + "covertype_test_recall": 0.7925000190734863, + "covertype_test_f1-score": 0.7923992872238159, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7925000190734863 + }, + "50": { + "covertype_test_loss": 0.47138550877571106, + "covertype_test_accuracy": 0.7929999828338623, + "covertype_test_precision": 0.7947746515274048, + "covertype_test_recall": 0.7929999828338623, + "covertype_test_f1-score": 0.79291170835495, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7929999828338623 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5979341864585876, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.747901976108551, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7473162412643433, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5562653541564941, + "lr": 0.0, + "covertype_test_accuracy": 0.7724999785423279, + "covertype_test_precision": 0.7744247913360596, + "covertype_test_recall": 0.7724999785423279, + "covertype_test_f1-score": 0.7708983421325684, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7724999785423279 + }, + "5": { + "covertype_test_loss": 0.539314866065979, + "covertype_test_accuracy": 0.7768421173095703, + "covertype_test_precision": 0.7805367708206177, + "covertype_test_recall": 0.7768421173095703, + "covertype_test_f1-score": 0.7760031819343567, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7768421173095703 + }, + "10": { + "covertype_test_loss": 0.5193217396736145, + "covertype_test_accuracy": 0.7816666960716248, + "covertype_test_precision": 0.7851294279098511, + "covertype_test_recall": 0.7816666960716248, + "covertype_test_f1-score": 0.7807377576828003, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7816666960716248 + }, + "20": { + "covertype_test_loss": 0.489202618598938, + "covertype_test_accuracy": 0.7862499952316284, + "covertype_test_precision": 0.7895768880844116, + "covertype_test_recall": 0.7862499952316284, + "covertype_test_f1-score": 0.7858520746231079, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7862499952316284 + }, + "50": { + "covertype_test_loss": 0.4663028419017792, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7799503803253174, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7779324054718018, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.587358295917511, + "lr": 0.0, + "covertype_val_accuracy": 0.7727727890014648, + "covertype_val_precision": 0.7669715881347656, + "covertype_val_recall": 0.7727727890014648, + "covertype_val_f1-score": 0.7693508267402649, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7727727890014648 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5866401195526123, + "lr": 0.0, + "covertype_test_accuracy": 0.765500009059906, + "covertype_test_precision": 0.7664816379547119, + "covertype_test_recall": 0.765500009059906, + "covertype_test_f1-score": 0.7651219964027405, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.765500009059906 + }, + "5": { + "covertype_test_loss": 0.5698752999305725, + "covertype_test_accuracy": 0.7710526585578918, + "covertype_test_precision": 0.772926390171051, + "covertype_test_recall": 0.7710526585578918, + "covertype_test_f1-score": 0.7709289789199829, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7710526585578918 + }, + "10": { + "covertype_test_loss": 0.5505905747413635, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7757290005683899, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7742568254470825, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7749999761581421 + }, + "20": { + "covertype_test_loss": 0.5317714214324951, + "covertype_test_accuracy": 0.7793750166893005, + "covertype_test_precision": 0.7798737287521362, + "covertype_test_recall": 0.7793750166893005, + "covertype_test_f1-score": 0.778945803642273, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7793750166893005 + }, + "50": { + "covertype_test_loss": 0.4816471040248871, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7832511067390442, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7839288711547852, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7860000133514404 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5640363097190857, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7897897958755493, + "covertype_val_precision": 0.783983588218689, + "covertype_val_recall": 0.7897897958755493, + "covertype_val_f1-score": 0.7849836945533752, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7897897958755493 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5535460710525513, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7825000286102295, + "covertype_test_precision": 0.7801183462142944, + "covertype_test_recall": 0.7825000286102295, + "covertype_test_f1-score": 0.7793118357658386, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7825000286102295 + }, + "5": { + "covertype_test_loss": 0.5378928780555725, + "covertype_test_accuracy": 0.7863157987594604, + "covertype_test_precision": 0.7832671999931335, + "covertype_test_recall": 0.7863157987594604, + "covertype_test_f1-score": 0.7839488983154297, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7863157987594604 + }, + "10": { + "covertype_test_loss": 0.5185210704803467, + "covertype_test_accuracy": 0.7927777767181396, + "covertype_test_precision": 0.7903971076011658, + "covertype_test_recall": 0.7927777767181396, + "covertype_test_f1-score": 0.7910113334655762, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7927777767181396 + }, + "20": { + "covertype_test_loss": 0.49448123574256897, + "covertype_test_accuracy": 0.7975000143051147, + "covertype_test_precision": 0.7976584434509277, + "covertype_test_recall": 0.7975000143051147, + "covertype_test_f1-score": 0.7966530323028564, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7975000143051147 + }, + "50": { + "covertype_test_loss": 0.4612864553928375, + "covertype_test_accuracy": 0.8040000200271606, + "covertype_test_precision": 0.8055704236030579, + "covertype_test_recall": 0.8040000200271606, + "covertype_test_f1-score": 0.80226069688797, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8040000200271606 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5666502833366394, + "std": 0.01331873226265034, + "n": 5, + "ci95": 0.01653473916408287 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7761000037193299, + "std": 0.00704805673475964, + "n": 5, + "ci95": 0.008749915339143396 + }, + "covertype_test_precision": { + "mean": 0.7764676094055176, + "std": 0.006234230792947287, + "n": 5, + "ci95": 0.007739578964219254 + }, + "covertype_test_recall": { + "mean": 0.7761000037193299, + "std": 0.00704805673475964, + "n": 5, + "ci95": 0.008749915339143396 + }, + "covertype_test_f1-score": { + "mean": 0.7747514605522156, + "std": 0.006562622450427975, + "n": 5, + "ci95": 0.008147265693933836 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7761000037193299, + "std": 0.00704805673475964, + "n": 5, + "ci95": 0.008749915339143396 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5500853180885314, + "std": 0.013524596887343587, + "n": 5, + "ci95": 0.016790312878253864 + }, + "covertype_test_accuracy": { + "mean": 0.7807368516921998, + "std": 0.006653255894131405, + "n": 5, + "ci95": 0.00825978393678352 + }, + "covertype_test_precision": { + "mean": 0.7817408680915833, + "std": 0.005446251840849388, + "n": 5, + "ci95": 0.006761330720858785 + }, + "covertype_test_recall": { + "mean": 0.7807368516921998, + "std": 0.006653255894131405, + "n": 5, + "ci95": 0.00825978393678352 + }, + "covertype_test_f1-score": { + "mean": 0.7798378348350525, + "std": 0.006171160925759903, + "n": 5, + "ci95": 0.007661279935265787 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7807368516921998, + "std": 0.006653255894131405, + "n": 5, + "ci95": 0.00825978393678352 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5288163185119629, + "std": 0.014262554106334775, + "n": 5, + "ci95": 0.017706460893668896 + }, + "covertype_test_accuracy": { + "mean": 0.7861111044883728, + "std": 0.007895926063550947, + "n": 5, + "ci95": 0.009802515385478475 + }, + "covertype_test_precision": { + "mean": 0.7864423394203186, + "std": 0.00653488932244315, + "n": 5, + "ci95": 0.008112835987833418 + }, + "covertype_test_recall": { + "mean": 0.7861111044883728, + "std": 0.007895926063550947, + "n": 5, + "ci95": 0.009802515385478475 + }, + "covertype_test_f1-score": { + "mean": 0.785022497177124, + "std": 0.0075670307797766, + "n": 5, + "ci95": 0.009394203421376895 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7861111044883728, + "std": 0.007895926063550947, + "n": 5, + "ci95": 0.009802515385478475 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5045603573322296, + "std": 0.01705702339709418, + "n": 5, + "ci95": 0.021175696547149313 + }, + "covertype_test_accuracy": { + "mean": 0.7900000095367432, + "std": 0.007221387711536987, + "n": 5, + "ci95": 0.008965099670020456 + }, + "covertype_test_precision": { + "mean": 0.7911378026008606, + "std": 0.006923265060090199, + "n": 5, + "ci95": 0.008594990850099144 + }, + "covertype_test_recall": { + "mean": 0.7900000095367432, + "std": 0.007221387711536987, + "n": 5, + "ci95": 0.008965099670020456 + }, + "covertype_test_f1-score": { + "mean": 0.7895736575126648, + "std": 0.007152904408003154, + "n": 5, + "ci95": 0.008880080049631952 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7900000095367432, + "std": 0.007221387711536987, + "n": 5, + "ci95": 0.008965099670020456 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.46848905086517334, + "std": 0.008405539356409714, + "n": 5, + "ci95": 0.010435182422085179 + }, + "covertype_test_accuracy": { + "mean": 0.7898000001907348, + "std": 0.009364837086910452, + "n": 5, + "ci95": 0.011626116922586204 + }, + "covertype_test_precision": { + "mean": 0.7899679660797119, + "std": 0.010313977578867756, + "n": 5, + "ci95": 0.012804441567537085 + }, + "covertype_test_recall": { + "mean": 0.7898000001907348, + "std": 0.009364837086910452, + "n": 5, + "ci95": 0.011626116922586204 + }, + "covertype_test_f1-score": { + "mean": 0.7884959578514099, + "std": 0.009363698533128847, + "n": 5, + "ci95": 0.011624703447982774 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7898000001907348, + "std": 0.009364837086910452, + "n": 5, + "ci95": 0.011626116922586204 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/xgboost_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/xgboost_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..abbc4e5ebbf2a5d7aa33537df115455b2aa2e26d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/downstream_results/xgboost_covertype_downstream_results.json @@ -0,0 +1,313 @@ +{ + "dataset": "covertype", + "model": "xgboost", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpn5r3z82n", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "xgboost", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 1, + "split_config_file": "/tmp/tmpn5r3z82n/split_data/split_config.json", + "sigma_aggregation": "mean", + "n_estimators": 100, + "max_depth": 3, + "learning_rate": 0.1, + "subsample": 1.0, + "colsample_bytree": 1.0, + "reg_alpha": 0.0, + "reg_lambda": 1.0, + "n_jobs": -1, + "random_state": 42, + "encoder_type": "linear_flatten", + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6492612957954407, + "covertype_val_accuracy": 0.7737737894058228, + "covertype_val_precision": 0.7694662809371948, + "covertype_val_recall": 0.7737737894058228, + "covertype_val_f1-score": 0.7702276706695557, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7737737894058228 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6249375343322754, + "covertype_test_accuracy": 0.8015000224113464, + "covertype_test_precision": 0.8027268052101135, + "covertype_test_recall": 0.8015000224113464, + "covertype_test_f1-score": 0.7994515895843506, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.8015000224113464 + }, + "5": { + "covertype_test_loss": 0.6018051505088806, + "covertype_test_accuracy": 0.8089473843574524, + "covertype_test_precision": 0.8102773427963257, + "covertype_test_recall": 0.8089473843574524, + "covertype_test_f1-score": 0.8075037598609924, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.8089473843574524 + }, + "10": { + "covertype_test_loss": 0.5798779129981995, + "covertype_test_accuracy": 0.8127777576446533, + "covertype_test_precision": 0.813444972038269, + "covertype_test_recall": 0.8127777576446533, + "covertype_test_f1-score": 0.8110148906707764, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8127777576446533 + }, + "20": { + "covertype_test_loss": 0.5463850498199463, + "covertype_test_accuracy": 0.8181250095367432, + "covertype_test_precision": 0.8202266097068787, + "covertype_test_recall": 0.8181250095367432, + "covertype_test_f1-score": 0.8171650767326355, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8181250095367432 + }, + "50": { + "covertype_test_loss": 0.4877050220966339, + "covertype_test_accuracy": 0.8169999718666077, + "covertype_test_precision": 0.8184465169906616, + "covertype_test_recall": 0.8169999718666077, + "covertype_test_f1-score": 0.8159849643707275, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8169999718666077 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6249375343322754, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_accuracy": { + "mean": 0.8015000224113464, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_precision": { + "mean": 0.8027268052101135, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_recall": { + "mean": 0.8015000224113464, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_f1-score": { + "mean": 0.7994515895843506, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_score": { + "mean": 0.8015000224113464, + "std": 0.0, + "n": 1, + "ci95": null + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6018051505088806, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_accuracy": { + "mean": 0.8089473843574524, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_precision": { + "mean": 0.8102773427963257, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_recall": { + "mean": 0.8089473843574524, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_f1-score": { + "mean": 0.8075037598609924, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_score": { + "mean": 0.8089473843574524, + "std": 0.0, + "n": 1, + "ci95": null + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5798779129981995, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_accuracy": { + "mean": 0.8127777576446533, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_precision": { + "mean": 0.813444972038269, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_recall": { + "mean": 0.8127777576446533, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_f1-score": { + "mean": 0.8110148906707764, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_score": { + "mean": 0.8127777576446533, + "std": 0.0, + "n": 1, + "ci95": null + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5463850498199463, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_accuracy": { + "mean": 0.8181250095367432, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_precision": { + "mean": 0.8202266097068787, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_recall": { + "mean": 0.8181250095367432, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_f1-score": { + "mean": 0.8171650767326355, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_score": { + "mean": 0.8181250095367432, + "std": 0.0, + "n": 1, + "ci95": null + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4877050220966339, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_accuracy": { + "mean": 0.8169999718666077, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_precision": { + "mean": 0.8184465169906616, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_recall": { + "mean": 0.8169999718666077, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_f1-score": { + "mean": 0.8159849643707275, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_score": { + "mean": 0.8169999718666077, + "std": 0.0, + "n": 1, + "ci95": null + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..b1605bc472264f984b46f472e99e5800ef402e27 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:41a95133cd3f3ffbdfe15b671334b8777ccbf2bd50e60ae2a0974dfd97cf505b +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..dd60f43b7b80a22c57ef48556df6706379fbc8a7 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8e3eb95a59a7cd55bc69926c49b5392d9c9486291c2a4f45c8a9653952884f96 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..3c9535cff99536eb9e87730db51add00a2bad0be --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:2633dc15284b626978504282ab4b0366ac1089c4100e493b8df3534890900036 +size 11493840 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..b9c92e1bd85682583fc546a1bf37a439d193d4fa --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue4-gpu3-kl3e-7/pretrain/wjepa_joint/covertype/20260917_164712/vtjepa_config.yaml @@ -0,0 +1,130 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 3.0e-07 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..b1ce45f53aee376c8b88465579ca9320119d376d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "e1fb426b1a3c5b791bc2d258e1863928c0e505ccf36637c0e5691751ed46f776", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "4deb20016ca09ec340f89aa2d63521c81d4f894ca2317e43d5c4eb41b014bcb3", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 1e-06, + "start_epoch": 1, + "annealing_epochs": 20 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..dd5aa6bad7d48258d292bc1a6d230396bf6580e7 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpgrkek_kf", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpgrkek_kf/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6178074479103088, + "lr": 0.00013551570009440184, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7574616074562073, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7545574307441711, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6022867560386658, + "lr": 0.0001355156855424866, + "covertype_test_accuracy": 0.7444999814033508, + "covertype_test_precision": 0.7445837259292603, + "covertype_test_recall": 0.7444999814033508, + "covertype_test_f1-score": 0.743881106376648, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7444999814033508 + }, + "5": { + "covertype_test_loss": 0.5885438323020935, + "covertype_test_accuracy": 0.7505263090133667, + "covertype_test_precision": 0.7523983716964722, + "covertype_test_recall": 0.7505263090133667, + "covertype_test_f1-score": 0.7505975365638733, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7505263090133667 + }, + "10": { + "covertype_test_loss": 0.5705776810646057, + "covertype_test_accuracy": 0.7561110854148865, + "covertype_test_precision": 0.7560794353485107, + "covertype_test_recall": 0.7561110854148865, + "covertype_test_f1-score": 0.7555354237556458, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7561110854148865 + }, + "20": { + "covertype_test_loss": 0.5493982434272766, + "covertype_test_accuracy": 0.7574999928474426, + "covertype_test_precision": 0.7567695379257202, + "covertype_test_recall": 0.7574999928474426, + "covertype_test_f1-score": 0.7569482326507568, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7574999928474426 + }, + "50": { + "covertype_test_loss": 0.5010181665420532, + "covertype_test_accuracy": 0.7739999890327454, + "covertype_test_precision": 0.7706784009933472, + "covertype_test_recall": 0.7739999890327454, + "covertype_test_f1-score": 0.7718687057495117, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7739999890327454 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6077384352684021, + "lr": 0.0, + "covertype_val_accuracy": 0.7517517805099487, + "covertype_val_precision": 0.751510739326477, + "covertype_val_recall": 0.7517517805099487, + "covertype_val_f1-score": 0.7493082284927368, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7517517805099487 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.591467022895813, + "lr": 0.0, + "covertype_test_accuracy": 0.7570000290870667, + "covertype_test_precision": 0.7570039629936218, + "covertype_test_recall": 0.7570000290870667, + "covertype_test_f1-score": 0.7556409239768982, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7570000290870667 + }, + "5": { + "covertype_test_loss": 0.5765388607978821, + "covertype_test_accuracy": 0.7615789771080017, + "covertype_test_precision": 0.7610034346580505, + "covertype_test_recall": 0.7615789771080017, + "covertype_test_f1-score": 0.7602828741073608, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7615789771080017 + }, + "10": { + "covertype_test_loss": 0.5657740235328674, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.7636740803718567, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.7634583115577698, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7649999856948853 + }, + "20": { + "covertype_test_loss": 0.5358256101608276, + "covertype_test_accuracy": 0.7668750286102295, + "covertype_test_precision": 0.7671562433242798, + "covertype_test_recall": 0.7668750286102295, + "covertype_test_f1-score": 0.7660652995109558, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7668750286102295 + }, + "50": { + "covertype_test_loss": 0.4959866404533386, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.7754740118980408, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.7750706076622009, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7760000228881836 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6121839880943298, + "lr": 1.5708421415183693e-05, + "covertype_val_accuracy": 0.7467467188835144, + "covertype_val_precision": 0.7483325600624084, + "covertype_val_recall": 0.7467467188835144, + "covertype_val_f1-score": 0.7441520690917969, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7467467188835144 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5699637532234192, + "lr": 1.5708415958215483e-05, + "covertype_test_accuracy": 0.7565000057220459, + "covertype_test_precision": 0.75496906042099, + "covertype_test_recall": 0.7565000057220459, + "covertype_test_f1-score": 0.7545872926712036, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7565000057220459 + }, + "5": { + "covertype_test_loss": 0.5526089668273926, + "covertype_test_accuracy": 0.7626315951347351, + "covertype_test_precision": 0.7623223066329956, + "covertype_test_recall": 0.7626315951347351, + "covertype_test_f1-score": 0.7616639137268066, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7626315951347351 + }, + "10": { + "covertype_test_loss": 0.5420820116996765, + "covertype_test_accuracy": 0.769444465637207, + "covertype_test_precision": 0.7680305242538452, + "covertype_test_recall": 0.769444465637207, + "covertype_test_f1-score": 0.7678869366645813, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.769444465637207 + }, + "20": { + "covertype_test_loss": 0.5168336629867554, + "covertype_test_accuracy": 0.7693750262260437, + "covertype_test_precision": 0.7681540846824646, + "covertype_test_recall": 0.7693750262260437, + "covertype_test_f1-score": 0.7682534456253052, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7693750262260437 + }, + "50": { + "covertype_test_loss": 0.47744888067245483, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.7722635865211487, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.7735851407051086, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7760000228881836 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6127902269363403, + "lr": 0.0, + "covertype_val_accuracy": 0.7457457184791565, + "covertype_val_precision": 0.740750253200531, + "covertype_val_recall": 0.7457457184791565, + "covertype_val_f1-score": 0.7427104711532593, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7457457184791565 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5857819318771362, + "lr": 0.0, + "covertype_test_accuracy": 0.7584999799728394, + "covertype_test_precision": 0.7571547031402588, + "covertype_test_recall": 0.7584999799728394, + "covertype_test_f1-score": 0.7568243145942688, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7584999799728394 + }, + "5": { + "covertype_test_loss": 0.5642229914665222, + "covertype_test_accuracy": 0.7621052861213684, + "covertype_test_precision": 0.7607384920120239, + "covertype_test_recall": 0.7621052861213684, + "covertype_test_f1-score": 0.7607093453407288, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7621052861213684 + }, + "10": { + "covertype_test_loss": 0.5551706552505493, + "covertype_test_accuracy": 0.7655555605888367, + "covertype_test_precision": 0.7628025412559509, + "covertype_test_recall": 0.7655555605888367, + "covertype_test_f1-score": 0.7636878490447998, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7655555605888367 + }, + "20": { + "covertype_test_loss": 0.5366024971008301, + "covertype_test_accuracy": 0.7693750262260437, + "covertype_test_precision": 0.7677288055419922, + "covertype_test_recall": 0.7693750262260437, + "covertype_test_f1-score": 0.7680538892745972, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7693750262260437 + }, + "50": { + "covertype_test_loss": 0.48715105652809143, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7773088216781616, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.7784258127212524, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.781000018119812 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6006751656532288, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7527527809143066, + "covertype_val_precision": 0.7474586963653564, + "covertype_val_recall": 0.7527527809143066, + "covertype_val_f1-score": 0.7482908964157104, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7527527809143066 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6002067923545837, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7540000081062317, + "covertype_test_precision": 0.7541068196296692, + "covertype_test_recall": 0.7540000081062317, + "covertype_test_f1-score": 0.7530376315116882, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7540000081062317 + }, + "5": { + "covertype_test_loss": 0.5873066782951355, + "covertype_test_accuracy": 0.7563157677650452, + "covertype_test_precision": 0.7585468292236328, + "covertype_test_recall": 0.7563157677650452, + "covertype_test_f1-score": 0.7558377981185913, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7563157677650452 + }, + "10": { + "covertype_test_loss": 0.5763725638389587, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7611076831817627, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7592577934265137, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7599999904632568 + }, + "20": { + "covertype_test_loss": 0.5513498187065125, + "covertype_test_accuracy": 0.7612500190734863, + "covertype_test_precision": 0.7621822357177734, + "covertype_test_recall": 0.7612500190734863, + "covertype_test_f1-score": 0.7608309984207153, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7612500190734863 + }, + "50": { + "covertype_test_loss": 0.515758752822876, + "covertype_test_accuracy": 0.7639999985694885, + "covertype_test_precision": 0.7634218335151672, + "covertype_test_recall": 0.7639999985694885, + "covertype_test_f1-score": 0.7629376649856567, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7639999985694885 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5899412512779236, + "std": 0.013005010253932471, + "n": 5, + "ci95": 0.01614526428900569 + }, + "lr": { + "mean": 3.20160950650461e-05, + "std": 5.823345044133973e-05, + "n": 5, + "ci95": 7.229478712266666e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7541000008583069, + "std": 0.005605808937341218, + "n": 5, + "ci95": 0.006959415262258359 + }, + "covertype_test_precision": { + "mean": 0.75356365442276, + "std": 0.005187500943720907, + "n": 5, + "ci95": 0.006440100553593564 + }, + "covertype_test_recall": { + "mean": 0.7541000008583069, + "std": 0.005605808937341218, + "n": 5, + "ci95": 0.006959415262258359 + }, + "covertype_test_f1-score": { + "mean": 0.7527942538261414, + "std": 0.00517357079772146, + "n": 5, + "ci95": 0.006422806765710737 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7541000008583069, + "std": 0.005605808937341218, + "n": 5, + "ci95": 0.006959415262258359 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5738442659378051, + "std": 0.015395465972140311, + "n": 5, + "ci95": 0.01911293125643159 + }, + "covertype_test_accuracy": { + "mean": 0.7586315870285034, + "std": 0.005191635317558384, + "n": 5, + "ci95": 0.006445233233766225 + }, + "covertype_test_precision": { + "mean": 0.759001886844635, + "std": 0.003932577668596492, + "n": 5, + "ci95": 0.0048821573037463204 + }, + "covertype_test_recall": { + "mean": 0.7586315870285034, + "std": 0.005191635317558384, + "n": 5, + "ci95": 0.006445233233766225 + }, + "covertype_test_f1-score": { + "mean": 0.7578182935714721, + "std": 0.004617435054529401, + "n": 5, + "ci95": 0.005732383738040819 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7586315870285034, + "std": 0.005191635317558384, + "n": 5, + "ci95": 0.006445233233766225 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5619953870773315, + "std": 0.01358083722217699, + "n": 5, + "ci95": 0.016860133282225704 + }, + "covertype_test_accuracy": { + "mean": 0.7632222175598145, + "std": 0.005202698055196781, + "n": 5, + "ci95": 0.006458967234696969 + }, + "covertype_test_precision": { + "mean": 0.7623388528823852, + "std": 0.0043326968810494864, + "n": 5, + "ci95": 0.0053788912782704095 + }, + "covertype_test_recall": { + "mean": 0.7632222175598145, + "std": 0.005202698055196781, + "n": 5, + "ci95": 0.006458967234696969 + }, + "covertype_test_f1-score": { + "mean": 0.7619652628898621, + "std": 0.004715292670317117, + "n": 5, + "ci95": 0.005853870537261673 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7632222175598145, + "std": 0.005202698055196781, + "n": 5, + "ci95": 0.006458967234696969 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5380019664764404, + "std": 0.01380971036511257, + "n": 5, + "ci95": 0.0171442712651414 + }, + "covertype_test_accuracy": { + "mean": 0.7648750185966492, + "std": 0.005292253861258686, + "n": 5, + "ci95": 0.006570147628195482 + }, + "covertype_test_precision": { + "mean": 0.7643981814384461, + "std": 0.004896769055838287, + "n": 5, + "ci95": 0.006079167107525183 + }, + "covertype_test_recall": { + "mean": 0.7648750185966492, + "std": 0.005292253861258686, + "n": 5, + "ci95": 0.006570147628195482 + }, + "covertype_test_f1-score": { + "mean": 0.764030373096466, + "std": 0.0049637853786322185, + "n": 5, + "ci95": 0.006162365522755818 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7648750185966492, + "std": 0.005292253861258686, + "n": 5, + "ci95": 0.006570147628195482 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4954726994037628, + "std": 0.014462434842693946, + "n": 5, + "ci95": 0.017954605820261635 + }, + "covertype_test_accuracy": { + "mean": 0.7742000102996827, + "std": 0.006260999217270937, + "n": 5, + "ci95": 0.007772811024545767 + }, + "covertype_test_precision": { + "mean": 0.7718293309211731, + "std": 0.005373726561612867, + "n": 5, + "ci95": 0.006671293129342584 + }, + "covertype_test_recall": { + "mean": 0.7742000102996827, + "std": 0.006260999217270937, + "n": 5, + "ci95": 0.007772811024545767 + }, + "covertype_test_f1-score": { + "mean": 0.7723775863647461, + "std": 0.0058022122586338, + "n": 5, + "ci95": 0.007203243099960249 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7742000102996827, + "std": 0.006260999217270937, + "n": 5, + "ci95": 0.007772811024545767 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..e570f911dd7a479d1ba2604cea4c8c016b897bfb --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp9ija6f2d", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp9ija6f2d/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5527006983757019, + "lr": 0.0, + "covertype_val_accuracy": 0.7737737894058228, + "covertype_val_precision": 0.7681965827941895, + "covertype_val_recall": 0.7737737894058228, + "covertype_val_f1-score": 0.7691974639892578, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7737737894058228 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5691579580307007, + "lr": 0.0, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7849112749099731, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7821859121322632, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7850000262260437 + }, + "5": { + "covertype_test_loss": 0.5554288625717163, + "covertype_test_accuracy": 0.788947343826294, + "covertype_test_precision": 0.788317859172821, + "covertype_test_recall": 0.788947343826294, + "covertype_test_f1-score": 0.7866659164428711, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.788947343826294 + }, + "10": { + "covertype_test_loss": 0.5363277792930603, + "covertype_test_accuracy": 0.7944444417953491, + "covertype_test_precision": 0.7927770614624023, + "covertype_test_recall": 0.7944444417953491, + "covertype_test_f1-score": 0.7915719151496887, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7944444417953491 + }, + "20": { + "covertype_test_loss": 0.5066121220588684, + "covertype_test_accuracy": 0.796875, + "covertype_test_precision": 0.7962677478790283, + "covertype_test_recall": 0.796875, + "covertype_test_f1-score": 0.7952196598052979, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.796875 + }, + "50": { + "covertype_test_loss": 0.4330770671367645, + "covertype_test_accuracy": 0.8019999861717224, + "covertype_test_precision": 0.7993904948234558, + "covertype_test_recall": 0.8019999861717224, + "covertype_test_f1-score": 0.79976487159729, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8019999861717224 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5873039960861206, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7657657861709595, + "covertype_val_precision": 0.7595828771591187, + "covertype_val_recall": 0.7657657861709595, + "covertype_val_f1-score": 0.7602761387825012, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7657657861709595 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5780495405197144, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7870326638221741, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7846868634223938, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7870000004768372 + }, + "5": { + "covertype_test_loss": 0.5617812871932983, + "covertype_test_accuracy": 0.7926315665245056, + "covertype_test_precision": 0.7936286330223083, + "covertype_test_recall": 0.7926315665245056, + "covertype_test_f1-score": 0.7911630868911743, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7926315665245056 + }, + "10": { + "covertype_test_loss": 0.5258902907371521, + "covertype_test_accuracy": 0.7988888621330261, + "covertype_test_precision": 0.7988260984420776, + "covertype_test_recall": 0.7988888621330261, + "covertype_test_f1-score": 0.7970216274261475, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7988888621330261 + }, + "20": { + "covertype_test_loss": 0.4943901300430298, + "covertype_test_accuracy": 0.7993749976158142, + "covertype_test_precision": 0.7991682291030884, + "covertype_test_recall": 0.7993749976158142, + "covertype_test_f1-score": 0.7983006834983826, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7993749976158142 + }, + "50": { + "covertype_test_loss": 0.4395286738872528, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7977765798568726, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7977175712585449, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.800000011920929 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5523149371147156, + "lr": 0.0, + "covertype_val_accuracy": 0.7747747898101807, + "covertype_val_precision": 0.7651488184928894, + "covertype_val_recall": 0.7747747898101807, + "covertype_val_f1-score": 0.7686594128608704, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7747747898101807 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5600196123123169, + "lr": 0.0, + "covertype_test_accuracy": 0.7879999876022339, + "covertype_test_precision": 0.7870120406150818, + "covertype_test_recall": 0.7879999876022339, + "covertype_test_f1-score": 0.7856784462928772, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7879999876022339 + }, + "5": { + "covertype_test_loss": 0.5460931658744812, + "covertype_test_accuracy": 0.7931578755378723, + "covertype_test_precision": 0.7915998101234436, + "covertype_test_recall": 0.7931578755378723, + "covertype_test_f1-score": 0.7913387417793274, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7931578755378723 + }, + "10": { + "covertype_test_loss": 0.5304861068725586, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7971923351287842, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7976792454719543, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.800000011920929 + }, + "20": { + "covertype_test_loss": 0.49837836623191833, + "covertype_test_accuracy": 0.8056250214576721, + "covertype_test_precision": 0.804841935634613, + "covertype_test_recall": 0.8056250214576721, + "covertype_test_f1-score": 0.8042726516723633, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8056250214576721 + }, + "50": { + "covertype_test_loss": 0.42702099680900574, + "covertype_test_accuracy": 0.8149999976158142, + "covertype_test_precision": 0.8129597902297974, + "covertype_test_recall": 0.8149999976158142, + "covertype_test_f1-score": 0.8125616312026978, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8149999976158142 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.567266047000885, + "lr": 0.0, + "covertype_val_accuracy": 0.7847847938537598, + "covertype_val_precision": 0.7791393995285034, + "covertype_val_recall": 0.7847847938537598, + "covertype_val_f1-score": 0.7792038321495056, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7847847938537598 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5927670001983643, + "lr": 0.0, + "covertype_test_accuracy": 0.7975000143051147, + "covertype_test_precision": 0.7972644567489624, + "covertype_test_recall": 0.7975000143051147, + "covertype_test_f1-score": 0.7956761717796326, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7975000143051147 + }, + "5": { + "covertype_test_loss": 0.5788358449935913, + "covertype_test_accuracy": 0.8036842346191406, + "covertype_test_precision": 0.8030872941017151, + "covertype_test_recall": 0.8036842346191406, + "covertype_test_f1-score": 0.8022301197052002, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.8036842346191406 + }, + "10": { + "covertype_test_loss": 0.5461121797561646, + "covertype_test_accuracy": 0.8088889122009277, + "covertype_test_precision": 0.8072330951690674, + "covertype_test_recall": 0.8088889122009277, + "covertype_test_f1-score": 0.8069345355033875, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8088889122009277 + }, + "20": { + "covertype_test_loss": 0.5008642077445984, + "covertype_test_accuracy": 0.8125, + "covertype_test_precision": 0.812025249004364, + "covertype_test_recall": 0.8125, + "covertype_test_f1-score": 0.8116856813430786, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8125 + }, + "50": { + "covertype_test_loss": 0.4256090521812439, + "covertype_test_accuracy": 0.8190000057220459, + "covertype_test_precision": 0.818227231502533, + "covertype_test_recall": 0.8190000057220459, + "covertype_test_f1-score": 0.8176555037498474, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8190000057220459 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5705147385597229, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7797797918319702, + "covertype_val_precision": 0.7682518362998962, + "covertype_val_recall": 0.7797797918319702, + "covertype_val_f1-score": 0.770776629447937, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7797797918319702 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5698819160461426, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7851959466934204, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7837361693382263, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7870000004768372 + }, + "5": { + "covertype_test_loss": 0.5539157390594482, + "covertype_test_accuracy": 0.7947368621826172, + "covertype_test_precision": 0.7923507690429688, + "covertype_test_recall": 0.7947368621826172, + "covertype_test_f1-score": 0.7927096486091614, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7947368621826172 + }, + "10": { + "covertype_test_loss": 0.5390750169754028, + "covertype_test_accuracy": 0.7983333468437195, + "covertype_test_precision": 0.7946294546127319, + "covertype_test_recall": 0.7983333468437195, + "covertype_test_f1-score": 0.7954724431037903, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7983333468437195 + }, + "20": { + "covertype_test_loss": 0.5111704468727112, + "covertype_test_accuracy": 0.8006250262260437, + "covertype_test_precision": 0.7990491390228271, + "covertype_test_recall": 0.8006250262260437, + "covertype_test_f1-score": 0.7984135746955872, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8006250262260437 + }, + "50": { + "covertype_test_loss": 0.4404016137123108, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.7995992302894592, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.8001381158828735, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5739752054214478, + "std": 0.012292794909946027, + "n": 5, + "ci95": 0.01526107390892743 + }, + "lr": { + "mean": 3.946543529309565e-07, + "std": 5.404027287947248e-07, + "n": 5, + "ci95": 6.708910418776824e-07 + }, + "covertype_test_accuracy": { + "mean": 0.7889000058174134, + "std": 0.004929504543504518, + "n": 5, + "ci95": 0.006119807067792878 + }, + "covertype_test_precision": { + "mean": 0.7882832765579224, + "std": 0.005117217785748753, + "n": 5, + "ci95": 0.006352846477020787 + }, + "covertype_test_recall": { + "mean": 0.7889000058174134, + "std": 0.004929504543504518, + "n": 5, + "ci95": 0.006119807067792878 + }, + "covertype_test_f1-score": { + "mean": 0.7863927125930786, + "std": 0.005346894060834773, + "n": 5, + "ci95": 0.00663798152034433 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7889000058174134, + "std": 0.004929504543504518, + "n": 5, + "ci95": 0.006119807067792878 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5592109799385071, + "std": 0.012310187258690361, + "n": 5, + "ci95": 0.015282665900137042 + }, + "covertype_test_accuracy": { + "mean": 0.7946315765380859, + "std": 0.005487349989149759, + "n": 5, + "ci95": 0.006812352631118149 + }, + "covertype_test_precision": { + "mean": 0.7937968730926513, + "std": 0.0055515340986476095, + "n": 5, + "ci95": 0.0068920349528359594 + }, + "covertype_test_recall": { + "mean": 0.7946315765380859, + "std": 0.005487349989149759, + "n": 5, + "ci95": 0.006812352631118149 + }, + "covertype_test_f1-score": { + "mean": 0.7928215026855469, + "std": 0.005730941249043884, + "n": 5, + "ci95": 0.007114762640237004 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7946315765380859, + "std": 0.005487349989149759, + "n": 5, + "ci95": 0.006812352631118149 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5355782747268677, + "std": 0.007802873282565922, + "n": 5, + "ci95": 0.009686993620212978 + }, + "covertype_test_accuracy": { + "mean": 0.8001111149787903, + "std": 0.005334501253430657, + "n": 5, + "ci95": 0.0066225962844302195 + }, + "covertype_test_precision": { + "mean": 0.7981316089630127, + "std": 0.005593251875266414, + "n": 5, + "ci95": 0.0069438261099291744 + }, + "covertype_test_recall": { + "mean": 0.8001111149787903, + "std": 0.005334501253430657, + "n": 5, + "ci95": 0.0066225962844302195 + }, + "covertype_test_f1-score": { + "mean": 0.7977359533309937, + "std": 0.005662292744797186, + "n": 5, + "ci95": 0.007029537928955232 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8001111149787903, + "std": 0.005334501253430657, + "n": 5, + "ci95": 0.0066225962844302195 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5022830545902253, + "std": 0.0066574120757509556, + "n": 5, + "ci95": 0.00826494369055307 + }, + "covertype_test_accuracy": { + "mean": 0.803000009059906, + "std": 0.006193494679200942, + "n": 5, + "ci95": 0.007689006507166185 + }, + "covertype_test_precision": { + "mean": 0.8022704601287842, + "std": 0.00628095720495803, + "n": 5, + "ci95": 0.007797588166554354 + }, + "covertype_test_recall": { + "mean": 0.803000009059906, + "std": 0.006193494679200942, + "n": 5, + "ci95": 0.007689006507166185 + }, + "covertype_test_f1-score": { + "mean": 0.8015784502029419, + "std": 0.00653087378812597, + "n": 5, + "ci95": 0.008107850842758826 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.803000009059906, + "std": 0.006193494679200942, + "n": 5, + "ci95": 0.007689006507166185 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.43312748074531554, + "std": 0.006850305462738451, + "n": 5, + "ci95": 0.0085044140678696 + }, + "covertype_test_accuracy": { + "mean": 0.8077999949455261, + "std": 0.008584875139332173, + "n": 5, + "ci95": 0.010657821509269546 + }, + "covertype_test_precision": { + "mean": 0.8055906653404236, + "std": 0.009345936902716059, + "n": 5, + "ci95": 0.011602653006528385 + }, + "covertype_test_recall": { + "mean": 0.8077999949455261, + "std": 0.008584875139332173, + "n": 5, + "ci95": 0.010657821509269546 + }, + "covertype_test_f1-score": { + "mean": 0.8055675387382507, + "std": 0.008941585366233105, + "n": 5, + "ci95": 0.01110066475010169 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8077999949455261, + "std": 0.008584875139332173, + "n": 5, + "ci95": 0.010657821509269546 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..cbdb1b074fa5ecb4d344ef1b3b54d11ec53a4b77 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmputhz96ag", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmputhz96ag/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5976532697677612, + "lr": 0.0, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.7335994243621826, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.73126620054245, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5873015522956848, + "lr": 0.0, + "covertype_test_accuracy": 0.7515000104904175, + "covertype_test_precision": 0.7509965896606445, + "covertype_test_recall": 0.7515000104904175, + "covertype_test_f1-score": 0.7460448741912842, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7515000104904175 + }, + "5": { + "covertype_test_loss": 0.5674983859062195, + "covertype_test_accuracy": 0.7589473724365234, + "covertype_test_precision": 0.7579362988471985, + "covertype_test_recall": 0.7589473724365234, + "covertype_test_f1-score": 0.7549526691436768, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7589473724365234 + }, + "10": { + "covertype_test_loss": 0.5557794570922852, + "covertype_test_accuracy": 0.7633333206176758, + "covertype_test_precision": 0.7613502144813538, + "covertype_test_recall": 0.7633333206176758, + "covertype_test_f1-score": 0.7593424916267395, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7633333206176758 + }, + "20": { + "covertype_test_loss": 0.5408316850662231, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.7660837769508362, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.7622977495193481, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7649999856948853 + }, + "50": { + "covertype_test_loss": 0.5008043646812439, + "covertype_test_accuracy": 0.7770000100135803, + "covertype_test_precision": 0.77560955286026, + "covertype_test_recall": 0.7770000100135803, + "covertype_test_f1-score": 0.7752506732940674, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7770000100135803 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5960667133331299, + "lr": 0.0, + "covertype_val_accuracy": 0.7587587833404541, + "covertype_val_precision": 0.7543796896934509, + "covertype_val_recall": 0.7587587833404541, + "covertype_val_f1-score": 0.751605212688446, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7587587833404541 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5770994424819946, + "lr": 0.0, + "covertype_test_accuracy": 0.7555000185966492, + "covertype_test_precision": 0.7564229369163513, + "covertype_test_recall": 0.7555000185966492, + "covertype_test_f1-score": 0.7534160614013672, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7555000185966492 + }, + "5": { + "covertype_test_loss": 0.5636098980903625, + "covertype_test_accuracy": 0.7615789771080017, + "covertype_test_precision": 0.7625049352645874, + "covertype_test_recall": 0.7615789771080017, + "covertype_test_f1-score": 0.7602304220199585, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7615789771080017 + }, + "10": { + "covertype_test_loss": 0.5528522729873657, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.7650412917137146, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.7629396319389343, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7649999856948853 + }, + "20": { + "covertype_test_loss": 0.5339817404747009, + "covertype_test_accuracy": 0.765625, + "covertype_test_precision": 0.7674768567085266, + "covertype_test_recall": 0.765625, + "covertype_test_f1-score": 0.7646487951278687, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.765625 + }, + "50": { + "covertype_test_loss": 0.4937577545642853, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7750625014305115, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7735705971717834, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7749999761581421 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5960635542869568, + "lr": 0.0, + "covertype_val_accuracy": 0.7467467188835144, + "covertype_val_precision": 0.7440976500511169, + "covertype_val_recall": 0.7467467188835144, + "covertype_val_f1-score": 0.7414686679840088, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7467467188835144 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5763242840766907, + "lr": 0.0, + "covertype_test_accuracy": 0.7570000290870667, + "covertype_test_precision": 0.7570008039474487, + "covertype_test_recall": 0.7570000290870667, + "covertype_test_f1-score": 0.75355064868927, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7570000290870667 + }, + "5": { + "covertype_test_loss": 0.5595411658287048, + "covertype_test_accuracy": 0.7631579041481018, + "covertype_test_precision": 0.7619881629943848, + "covertype_test_recall": 0.7631579041481018, + "covertype_test_f1-score": 0.7606889009475708, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7631579041481018 + }, + "10": { + "covertype_test_loss": 0.5458230972290039, + "covertype_test_accuracy": 0.7677778005599976, + "covertype_test_precision": 0.76520836353302, + "covertype_test_recall": 0.7677778005599976, + "covertype_test_f1-score": 0.7647126913070679, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7677778005599976 + }, + "20": { + "covertype_test_loss": 0.5275771617889404, + "covertype_test_accuracy": 0.7706249952316284, + "covertype_test_precision": 0.7703409790992737, + "covertype_test_recall": 0.7706249952316284, + "covertype_test_f1-score": 0.7689421772956848, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7706249952316284 + }, + "50": { + "covertype_test_loss": 0.4947899281978607, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7808542847633362, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7807537317276001, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6087440252304077, + "lr": 0.0, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7486427426338196, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7477404475212097, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5679118633270264, + "lr": 0.0, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7615678310394287, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7585028409957886, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7620000243186951 + }, + "5": { + "covertype_test_loss": 0.5526824593544006, + "covertype_test_accuracy": 0.7678947448730469, + "covertype_test_precision": 0.7672480940818787, + "covertype_test_recall": 0.7678947448730469, + "covertype_test_f1-score": 0.7650858163833618, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7678947448730469 + }, + "10": { + "covertype_test_loss": 0.5421205163002014, + "covertype_test_accuracy": 0.772777795791626, + "covertype_test_precision": 0.7705639004707336, + "covertype_test_recall": 0.772777795791626, + "covertype_test_f1-score": 0.7694872617721558, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.772777795791626 + }, + "20": { + "covertype_test_loss": 0.5223816633224487, + "covertype_test_accuracy": 0.7787500023841858, + "covertype_test_precision": 0.7788403630256653, + "covertype_test_recall": 0.7787500023841858, + "covertype_test_f1-score": 0.7763746976852417, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7787500023841858 + }, + "50": { + "covertype_test_loss": 0.4778284728527069, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7898684740066528, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7894303798675537, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7910000085830688 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.582597553730011, + "lr": 0.0, + "covertype_val_accuracy": 0.7527527809143066, + "covertype_val_precision": 0.7491756081581116, + "covertype_val_recall": 0.7527527809143066, + "covertype_val_f1-score": 0.7463156580924988, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7527527809143066 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5770056843757629, + "lr": 0.0, + "covertype_test_accuracy": 0.7574999928474426, + "covertype_test_precision": 0.7593384981155396, + "covertype_test_recall": 0.7574999928474426, + "covertype_test_f1-score": 0.7545973062515259, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7574999928474426 + }, + "5": { + "covertype_test_loss": 0.5626065135002136, + "covertype_test_accuracy": 0.7647368311882019, + "covertype_test_precision": 0.7679347991943359, + "covertype_test_recall": 0.7647368311882019, + "covertype_test_f1-score": 0.7632215023040771, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7647368311882019 + }, + "10": { + "covertype_test_loss": 0.5531371235847473, + "covertype_test_accuracy": 0.7711111307144165, + "covertype_test_precision": 0.7716817259788513, + "covertype_test_recall": 0.7711111307144165, + "covertype_test_f1-score": 0.7686144113540649, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7711111307144165 + }, + "20": { + "covertype_test_loss": 0.536823570728302, + "covertype_test_accuracy": 0.7724999785423279, + "covertype_test_precision": 0.7741746306419373, + "covertype_test_recall": 0.7724999785423279, + "covertype_test_f1-score": 0.7707546353340149, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7724999785423279 + }, + "50": { + "covertype_test_loss": 0.4932165741920471, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7822079658508301, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7824937701225281, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5771285653114319, + "std": 0.00687568316277056, + "n": 5, + "ci95": 0.008535919592745416 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7567000150680542, + "std": 0.003784841808280281, + "n": 5, + "ci95": 0.004698748412619333 + }, + "covertype_test_precision": { + "mean": 0.7570653319358825, + "std": 0.003958732457600582, + "n": 5, + "ci95": 0.004914627557336972 + }, + "covertype_test_recall": { + "mean": 0.7567000150680542, + "std": 0.003784841808280281, + "n": 5, + "ci95": 0.004698748412619333 + }, + "covertype_test_f1-score": { + "mean": 0.7532223463058472, + "std": 0.004512082472961984, + "n": 5, + "ci95": 0.005601592201569661 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7567000150680542, + "std": 0.003784841808280281, + "n": 5, + "ci95": 0.004698748412619333 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5611876845359802, + "std": 0.0055397433415254925, + "n": 5, + "ci95": 0.006877397141239733 + }, + "covertype_test_accuracy": { + "mean": 0.7632631659507751, + "std": 0.00335770972197246, + "n": 5, + "ci95": 0.004168478902245906 + }, + "covertype_test_precision": { + "mean": 0.763522458076477, + "std": 0.0041213986337042055, + "n": 5, + "ci95": 0.005116571912073702 + }, + "covertype_test_recall": { + "mean": 0.7632631659507751, + "std": 0.00335770972197246, + "n": 5, + "ci95": 0.004168478902245906 + }, + "covertype_test_f1-score": { + "mean": 0.760835862159729, + "std": 0.0038325417553547307, + "n": 5, + "ci95": 0.004757966224604964 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7632631659507751, + "std": 0.00335770972197246, + "n": 5, + "ci95": 0.004168478902245906 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5499424934387207, + "std": 0.005720475831886601, + "n": 5, + "ci95": 0.0071017701917421685 + }, + "covertype_test_accuracy": { + "mean": 0.7680000066757202, + "std": 0.003979127474330342, + "n": 5, + "ci95": 0.004939947255580278 + }, + "covertype_test_precision": { + "mean": 0.7667690992355347, + "std": 0.004281353310533768, + "n": 5, + "ci95": 0.0053151500355238445 + }, + "covertype_test_recall": { + "mean": 0.7680000066757202, + "std": 0.003979127474330342, + "n": 5, + "ci95": 0.004939947255580278 + }, + "covertype_test_f1-score": { + "mean": 0.7650192975997925, + "std": 0.00416931317746286, + "n": 5, + "ci95": 0.005176056138319251 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7680000066757202, + "std": 0.003979127474330342, + "n": 5, + "ci95": 0.004939947255580278 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.532319164276123, + "std": 0.007361340912108329, + "n": 5, + "ci95": 0.009138846661925618 + }, + "covertype_test_accuracy": { + "mean": 0.7704999923706055, + "std": 0.0056145761120709025, + "n": 5, + "ci95": 0.006970299402317829 + }, + "covertype_test_precision": { + "mean": 0.7713833212852478, + "std": 0.005192085137911929, + "n": 5, + "ci95": 0.006445791669964948 + }, + "covertype_test_recall": { + "mean": 0.7704999923706055, + "std": 0.0056145761120709025, + "n": 5, + "ci95": 0.006970299402317829 + }, + "covertype_test_f1-score": { + "mean": 0.7686036109924317, + "std": 0.0054894393768232285, + "n": 5, + "ci95": 0.006814946532663144 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7704999923706055, + "std": 0.0056145761120709025, + "n": 5, + "ci95": 0.006970299402317829 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4920794188976288, + "std": 0.008524537165479079, + "n": 5, + "ci95": 0.010582914030113445 + }, + "covertype_test_accuracy": { + "mean": 0.7820000052452087, + "std": 0.006403134886581515, + "n": 5, + "ci95": 0.007949267474875753 + }, + "covertype_test_precision": { + "mean": 0.7807205557823181, + "std": 0.00600105428047178, + "n": 5, + "ci95": 0.007450098498891108 + }, + "covertype_test_recall": { + "mean": 0.7820000052452087, + "std": 0.006403134886581515, + "n": 5, + "ci95": 0.007949267474875753 + }, + "covertype_test_f1-score": { + "mean": 0.7802998304367066, + "std": 0.006307988958868997, + "n": 5, + "ci95": 0.007831147141331476 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7820000052452087, + "std": 0.006403134886581515, + "n": 5, + "ci95": 0.007949267474875753 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..9b88619a3e740bf6f4f973da702f7aaa006844bc --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpu7zel2jf", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpu7zel2jf/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6299537420272827, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7327327132225037, + "covertype_val_precision": 0.7259424924850464, + "covertype_val_recall": 0.7327327132225037, + "covertype_val_f1-score": 0.7241551280021667, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7327327132225037 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6226202249526978, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7294999957084656, + "covertype_test_precision": 0.7371786236763, + "covertype_test_recall": 0.7294999957084656, + "covertype_test_f1-score": 0.7217244505882263, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7294999957084656 + }, + "5": { + "covertype_test_loss": 0.6121652722358704, + "covertype_test_accuracy": 0.7368420958518982, + "covertype_test_precision": 0.7465308308601379, + "covertype_test_recall": 0.7368420958518982, + "covertype_test_f1-score": 0.730449378490448, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7368420958518982 + }, + "10": { + "covertype_test_loss": 0.6028187274932861, + "covertype_test_accuracy": 0.7433333396911621, + "covertype_test_precision": 0.7535999417304993, + "covertype_test_recall": 0.7433333396911621, + "covertype_test_f1-score": 0.7369896769523621, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7433333396911621 + }, + "20": { + "covertype_test_loss": 0.5877697467803955, + "covertype_test_accuracy": 0.7418749928474426, + "covertype_test_precision": 0.7530531883239746, + "covertype_test_recall": 0.7418749928474426, + "covertype_test_f1-score": 0.7368854880332947, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7418749928474426 + }, + "50": { + "covertype_test_loss": 0.5432259440422058, + "covertype_test_accuracy": 0.7540000081062317, + "covertype_test_precision": 0.7503986954689026, + "covertype_test_recall": 0.7540000081062317, + "covertype_test_f1-score": 0.7504066228866577, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7540000081062317 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6532697677612305, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7437437176704407, + "covertype_val_precision": 0.7405602931976318, + "covertype_val_recall": 0.7437437176704407, + "covertype_val_f1-score": 0.7289066910743713, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7437437176704407 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6470260620117188, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.718500018119812, + "covertype_test_precision": 0.7017971277236938, + "covertype_test_recall": 0.718500018119812, + "covertype_test_f1-score": 0.7028539776802063, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.718500018119812 + }, + "5": { + "covertype_test_loss": 0.6292228698730469, + "covertype_test_accuracy": 0.7252631783485413, + "covertype_test_precision": 0.7106531858444214, + "covertype_test_recall": 0.7252631783485413, + "covertype_test_f1-score": 0.7127729654312134, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7252631783485413 + }, + "10": { + "covertype_test_loss": 0.6110644340515137, + "covertype_test_accuracy": 0.7322221994400024, + "covertype_test_precision": 0.7171052694320679, + "covertype_test_recall": 0.7322221994400024, + "covertype_test_f1-score": 0.7214885354042053, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7322221994400024 + }, + "20": { + "covertype_test_loss": 0.5945071578025818, + "covertype_test_accuracy": 0.734375, + "covertype_test_precision": 0.7205698490142822, + "covertype_test_recall": 0.734375, + "covertype_test_f1-score": 0.7247419953346252, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.734375 + }, + "50": { + "covertype_test_loss": 0.547480046749115, + "covertype_test_accuracy": 0.7379999756813049, + "covertype_test_precision": 0.7298974990844727, + "covertype_test_recall": 0.7379999756813049, + "covertype_test_f1-score": 0.7290661931037903, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7379999756813049 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6679255366325378, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7267267107963562, + "covertype_val_precision": 0.7124902606010437, + "covertype_val_recall": 0.7267267107963562, + "covertype_val_f1-score": 0.7131471633911133, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7267267107963562 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6741310954093933, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7039999961853027, + "covertype_test_precision": 0.6964541673660278, + "covertype_test_recall": 0.7039999961853027, + "covertype_test_f1-score": 0.6909818649291992, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7039999961853027 + }, + "5": { + "covertype_test_loss": 0.661017656326294, + "covertype_test_accuracy": 0.7099999785423279, + "covertype_test_precision": 0.7039792537689209, + "covertype_test_recall": 0.7099999785423279, + "covertype_test_f1-score": 0.6983081102371216, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7099999785423279 + }, + "10": { + "covertype_test_loss": 0.6483997106552124, + "covertype_test_accuracy": 0.7166666388511658, + "covertype_test_precision": 0.7096433639526367, + "covertype_test_recall": 0.7166666388511658, + "covertype_test_f1-score": 0.7040491104125977, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7166666388511658 + }, + "20": { + "covertype_test_loss": 0.6345729231834412, + "covertype_test_accuracy": 0.7181249856948853, + "covertype_test_precision": 0.7128534913063049, + "covertype_test_recall": 0.7181249856948853, + "covertype_test_f1-score": 0.7044576406478882, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7181249856948853 + }, + "50": { + "covertype_test_loss": 0.5975620746612549, + "covertype_test_accuracy": 0.7160000205039978, + "covertype_test_precision": 0.7160830497741699, + "covertype_test_recall": 0.7160000205039978, + "covertype_test_f1-score": 0.700074315071106, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7160000205039978 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.7169666290283203, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6836836934089661, + "covertype_val_precision": 0.694863498210907, + "covertype_val_recall": 0.6836836934089661, + "covertype_val_f1-score": 0.6729680895805359, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6836836934089661 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7150909304618835, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6815000176429749, + "covertype_test_precision": 0.7009594440460205, + "covertype_test_recall": 0.6815000176429749, + "covertype_test_f1-score": 0.671328604221344, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6815000176429749 + }, + "5": { + "covertype_test_loss": 0.7002536058425903, + "covertype_test_accuracy": 0.6889473795890808, + "covertype_test_precision": 0.7143490314483643, + "covertype_test_recall": 0.6889473795890808, + "covertype_test_f1-score": 0.6804676651954651, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6889473795890808 + }, + "10": { + "covertype_test_loss": 0.6891160607337952, + "covertype_test_accuracy": 0.695555567741394, + "covertype_test_precision": 0.7249574065208435, + "covertype_test_recall": 0.695555567741394, + "covertype_test_f1-score": 0.6870443224906921, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.695555567741394 + }, + "20": { + "covertype_test_loss": 0.6743645668029785, + "covertype_test_accuracy": 0.6912500262260437, + "covertype_test_precision": 0.7279961705207825, + "covertype_test_recall": 0.6912500262260437, + "covertype_test_f1-score": 0.681911051273346, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6912500262260437 + }, + "50": { + "covertype_test_loss": 0.6173632144927979, + "covertype_test_accuracy": 0.7009999752044678, + "covertype_test_precision": 0.7426000237464905, + "covertype_test_recall": 0.7009999752044678, + "covertype_test_f1-score": 0.6944719552993774, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7009999752044678 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6536407470703125, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7127127051353455, + "covertype_val_precision": 0.708427906036377, + "covertype_val_recall": 0.7127127051353455, + "covertype_val_f1-score": 0.700475811958313, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7127127051353455 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.644321084022522, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7080000042915344, + "covertype_test_precision": 0.7022173404693604, + "covertype_test_recall": 0.7080000042915344, + "covertype_test_f1-score": 0.695200502872467, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7080000042915344 + }, + "5": { + "covertype_test_loss": 0.6336102485656738, + "covertype_test_accuracy": 0.714736819267273, + "covertype_test_precision": 0.7098609209060669, + "covertype_test_recall": 0.714736819267273, + "covertype_test_f1-score": 0.7051690220832825, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.714736819267273 + }, + "10": { + "covertype_test_loss": 0.6239518523216248, + "covertype_test_accuracy": 0.7211111187934875, + "covertype_test_precision": 0.7176238894462585, + "covertype_test_recall": 0.7211111187934875, + "covertype_test_f1-score": 0.7135996222496033, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7211111187934875 + }, + "20": { + "covertype_test_loss": 0.6090651750564575, + "covertype_test_accuracy": 0.7193750143051147, + "covertype_test_precision": 0.7185913324356079, + "covertype_test_recall": 0.7193750143051147, + "covertype_test_f1-score": 0.7131497859954834, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7193750143051147 + }, + "50": { + "covertype_test_loss": 0.5676597952842712, + "covertype_test_accuracy": 0.734000027179718, + "covertype_test_precision": 0.7344440817832947, + "covertype_test_recall": 0.734000027179718, + "covertype_test_f1-score": 0.73089998960495, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.734000027179718 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6606378793716431, + "std": 0.03551078386174096, + "n": 5, + "ci95": 0.04408539319561101 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7083000063896179, + "std": 0.017960367982391232, + "n": 5, + "ci95": 0.02229716717953524 + }, + "covertype_test_precision": { + "mean": 0.7077213406562806, + "std": 0.016626742612206133, + "n": 5, + "ci95": 0.020641518037878417 + }, + "covertype_test_recall": { + "mean": 0.7083000063896179, + "std": 0.017960367982391232, + "n": 5, + "ci95": 0.02229716717953524 + }, + "covertype_test_f1-score": { + "mean": 0.6964178800582885, + "std": 0.01831904674310393, + "n": 5, + "ci95": 0.02274245428608008 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7083000063896179, + "std": 0.017960367982391232, + "n": 5, + "ci95": 0.02229716717953524 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6472539305686951, + "std": 0.03442705650312033, + "n": 5, + "ci95": 0.042739983674164046 + }, + "covertype_test_accuracy": { + "mean": 0.7151578903198242, + "std": 0.017931075282890223, + "n": 5, + "ci95": 0.02226080132007433 + }, + "covertype_test_precision": { + "mean": 0.7170746445655822, + "std": 0.016880892150187357, + "n": 5, + "ci95": 0.020957035779080875 + }, + "covertype_test_recall": { + "mean": 0.7151578903198242, + "std": 0.017931075282890223, + "n": 5, + "ci95": 0.02226080132007433 + }, + "covertype_test_f1-score": { + "mean": 0.7054334282875061, + "std": 0.01839698320899253, + "n": 5, + "ci95": 0.022839209676114622 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7151578903198242, + "std": 0.017931075282890223, + "n": 5, + "ci95": 0.02226080132007433 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6350701570510864, + "std": 0.0347803207628863, + "n": 5, + "ci95": 0.043178548867609925 + }, + "covertype_test_accuracy": { + "mean": 0.7217777729034424, + "std": 0.017943666485564353, + "n": 5, + "ci95": 0.022276432856760644 + }, + "covertype_test_precision": { + "mean": 0.7245859742164612, + "std": 0.017100156744732493, + "n": 5, + "ci95": 0.021229245086034895 + }, + "covertype_test_recall": { + "mean": 0.7217777729034424, + "std": 0.017943666485564353, + "n": 5, + "ci95": 0.022276432856760644 + }, + "covertype_test_f1-score": { + "mean": 0.7126342535018921, + "std": 0.01871540907446338, + "n": 5, + "ci95": 0.02323452422443862 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7217777729034424, + "std": 0.017943666485564353, + "n": 5, + "ci95": 0.022276432856760644 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6200559139251709, + "std": 0.03527075702476154, + "n": 5, + "ci95": 0.04378740829257604 + }, + "covertype_test_accuracy": { + "mean": 0.7210000038146973, + "std": 0.01943336806047135, + "n": 5, + "ci95": 0.02412584513472088 + }, + "covertype_test_precision": { + "mean": 0.7266128063201904, + "std": 0.015741566178043703, + "n": 5, + "ci95": 0.01954260252817087 + }, + "covertype_test_recall": { + "mean": 0.7210000038146973, + "std": 0.01943336806047135, + "n": 5, + "ci95": 0.02412584513472088 + }, + "covertype_test_f1-score": { + "mean": 0.7122291922569275, + "std": 0.020886223582882935, + "n": 5, + "ci95": 0.025929514330289845 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7210000038146973, + "std": 0.01943336806047135, + "n": 5, + "ci95": 0.02412584513472088 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.574658215045929, + "std": 0.03210888558723827, + "n": 5, + "ci95": 0.039862055754600514 + }, + "covertype_test_accuracy": { + "mean": 0.728600001335144, + "std": 0.020513416951845893, + "n": 5, + "ci95": 0.02546668796804481 + }, + "covertype_test_precision": { + "mean": 0.7346846699714661, + "std": 0.013024770482237864, + "n": 5, + "ci95": 0.01616979591967512 + }, + "covertype_test_recall": { + "mean": 0.728600001335144, + "std": 0.020513416951845893, + "n": 5, + "ci95": 0.02546668796804481 + }, + "covertype_test_f1-score": { + "mean": 0.7209838151931762, + "std": 0.023288639240011236, + "n": 5, + "ci95": 0.028912029142583284 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.728600001335144, + "std": 0.020513416951845893, + "n": 5, + "ci95": 0.02546668796804481 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..03fb04b9e489767b352bdb657539c2025d91bc95 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpredcgorb", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpredcgorb/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5800806879997253, + "lr": 0.0, + "covertype_val_accuracy": 0.7517517805099487, + "covertype_val_precision": 0.7486118674278259, + "covertype_val_recall": 0.7517517805099487, + "covertype_val_f1-score": 0.7491560578346252, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7517517805099487 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5644186735153198, + "lr": 0.0, + "covertype_test_accuracy": 0.7714999914169312, + "covertype_test_precision": 0.7724735736846924, + "covertype_test_recall": 0.7714999914169312, + "covertype_test_f1-score": 0.7714375257492065, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7714999914169312 + }, + "5": { + "covertype_test_loss": 0.5474874973297119, + "covertype_test_accuracy": 0.7778947353363037, + "covertype_test_precision": 0.7788658738136292, + "covertype_test_recall": 0.7778947353363037, + "covertype_test_f1-score": 0.7777220606803894, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7778947353363037 + }, + "10": { + "covertype_test_loss": 0.5268815159797668, + "covertype_test_accuracy": 0.7838888764381409, + "covertype_test_precision": 0.7837992906570435, + "covertype_test_recall": 0.7838888764381409, + "covertype_test_f1-score": 0.7832347750663757, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7838888764381409 + }, + "20": { + "covertype_test_loss": 0.4933241605758667, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.786112904548645, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7852160334587097, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7850000262260437 + }, + "50": { + "covertype_test_loss": 0.4535694718360901, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.7755876779556274, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.775626003742218, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7760000228881836 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6140382885932922, + "lr": 0.0, + "covertype_val_accuracy": 0.7607607841491699, + "covertype_val_precision": 0.7512699961662292, + "covertype_val_recall": 0.7607607841491699, + "covertype_val_f1-score": 0.7533164620399475, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7607607841491699 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5726626515388489, + "lr": 0.0, + "covertype_test_accuracy": 0.7785000205039978, + "covertype_test_precision": 0.7796789407730103, + "covertype_test_recall": 0.7785000205039978, + "covertype_test_f1-score": 0.7756673693656921, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7785000205039978 + }, + "5": { + "covertype_test_loss": 0.5515724420547485, + "covertype_test_accuracy": 0.7826315760612488, + "covertype_test_precision": 0.7845152616500854, + "covertype_test_recall": 0.7826315760612488, + "covertype_test_f1-score": 0.7809767723083496, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7826315760612488 + }, + "10": { + "covertype_test_loss": 0.5420166254043579, + "covertype_test_accuracy": 0.7833333611488342, + "covertype_test_precision": 0.7841924428939819, + "covertype_test_recall": 0.7833333611488342, + "covertype_test_f1-score": 0.7815183997154236, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7833333611488342 + }, + "20": { + "covertype_test_loss": 0.5211612582206726, + "covertype_test_accuracy": 0.7875000238418579, + "covertype_test_precision": 0.7896296381950378, + "covertype_test_recall": 0.7875000238418579, + "covertype_test_f1-score": 0.7862424254417419, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7875000238418579 + }, + "50": { + "covertype_test_loss": 0.47292596101760864, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.7954086065292358, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7911956310272217, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7919999957084656 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5736250281333923, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7737737894058228, + "covertype_val_precision": 0.7694842219352722, + "covertype_val_recall": 0.7737737894058228, + "covertype_val_f1-score": 0.7682856917381287, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7737737894058228 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5683519244194031, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.7803512215614319, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.775600790977478, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.777999997138977 + }, + "5": { + "covertype_test_loss": 0.5439453721046448, + "covertype_test_accuracy": 0.7873684167861938, + "covertype_test_precision": 0.7898025512695312, + "covertype_test_recall": 0.7873684167861938, + "covertype_test_f1-score": 0.7861242890357971, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7873684167861938 + }, + "10": { + "covertype_test_loss": 0.5252693295478821, + "covertype_test_accuracy": 0.7933333516120911, + "covertype_test_precision": 0.7944376468658447, + "covertype_test_recall": 0.7933333516120911, + "covertype_test_f1-score": 0.7918254733085632, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7933333516120911 + }, + "20": { + "covertype_test_loss": 0.49969083070755005, + "covertype_test_accuracy": 0.7943750023841858, + "covertype_test_precision": 0.7961159348487854, + "covertype_test_recall": 0.7943750023841858, + "covertype_test_f1-score": 0.7937653660774231, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7943750023841858 + }, + "50": { + "covertype_test_loss": 0.4552502930164337, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7901237607002258, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7891086339950562, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7910000085830688 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5973086357116699, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7577577829360962, + "covertype_val_precision": 0.7514798045158386, + "covertype_val_recall": 0.7577577829360962, + "covertype_val_f1-score": 0.7522371411323547, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7577577829360962 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5735478401184082, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7710000276565552, + "covertype_test_precision": 0.771196722984314, + "covertype_test_recall": 0.7710000276565552, + "covertype_test_f1-score": 0.7668678164482117, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7710000276565552 + }, + "5": { + "covertype_test_loss": 0.550972044467926, + "covertype_test_accuracy": 0.7778947353363037, + "covertype_test_precision": 0.7763579487800598, + "covertype_test_recall": 0.7778947353363037, + "covertype_test_f1-score": 0.7755759954452515, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7778947353363037 + }, + "10": { + "covertype_test_loss": 0.5316736102104187, + "covertype_test_accuracy": 0.7827777862548828, + "covertype_test_precision": 0.7809502482414246, + "covertype_test_recall": 0.7827777862548828, + "covertype_test_f1-score": 0.7808451056480408, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7827777862548828 + }, + "20": { + "covertype_test_loss": 0.5053534507751465, + "covertype_test_accuracy": 0.7868750095367432, + "covertype_test_precision": 0.7860267162322998, + "covertype_test_recall": 0.7868750095367432, + "covertype_test_f1-score": 0.786086916923523, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7868750095367432 + }, + "50": { + "covertype_test_loss": 0.44888219237327576, + "covertype_test_accuracy": 0.7960000038146973, + "covertype_test_precision": 0.79618239402771, + "covertype_test_recall": 0.7960000038146973, + "covertype_test_f1-score": 0.7952690720558167, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7960000038146973 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6059041023254395, + "lr": 0.0, + "covertype_val_accuracy": 0.7587587833404541, + "covertype_val_precision": 0.7555169463157654, + "covertype_val_recall": 0.7587587833404541, + "covertype_val_f1-score": 0.7567806243896484, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7587587833404541 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5668010711669922, + "lr": 0.0, + "covertype_test_accuracy": 0.7825000286102295, + "covertype_test_precision": 0.784159779548645, + "covertype_test_recall": 0.7825000286102295, + "covertype_test_f1-score": 0.7826018333435059, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7825000286102295 + }, + "5": { + "covertype_test_loss": 0.5465166568756104, + "covertype_test_accuracy": 0.7884210348129272, + "covertype_test_precision": 0.789685845375061, + "covertype_test_recall": 0.7884210348129272, + "covertype_test_f1-score": 0.7886455059051514, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7884210348129272 + }, + "10": { + "covertype_test_loss": 0.5285261273384094, + "covertype_test_accuracy": 0.79666668176651, + "covertype_test_precision": 0.7966185808181763, + "covertype_test_recall": 0.79666668176651, + "covertype_test_f1-score": 0.7962432503700256, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.79666668176651 + }, + "20": { + "covertype_test_loss": 0.5070545077323914, + "covertype_test_accuracy": 0.7981250286102295, + "covertype_test_precision": 0.7990346550941467, + "covertype_test_recall": 0.7981250286102295, + "covertype_test_f1-score": 0.7981948852539062, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7981250286102295 + }, + "50": { + "covertype_test_loss": 0.4711953401565552, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.7934038043022156, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7916160225868225, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7919999957084656 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5691564321517945, + "std": 0.00388005648403123, + "n": 5, + "ci95": 0.0048169540944430905 + }, + "lr": { + "mean": 0.0003000000491738319, + "std": 0.0004472136688039785, + "n": 5, + "ci95": 0.0005552000910043715 + }, + "covertype_test_accuracy": { + "mean": 0.7763000130653381, + "std": 0.004932043808001057, + "n": 5, + "ci95": 0.006122959475641532 + }, + "covertype_test_precision": { + "mean": 0.7775720477104187, + "std": 0.0055272103994244, + "n": 5, + "ci95": 0.006861837933012292 + }, + "covertype_test_recall": { + "mean": 0.7763000130653381, + "std": 0.004932043808001057, + "n": 5, + "ci95": 0.006122959475641532 + }, + "covertype_test_f1-score": { + "mean": 0.7744350671768189, + "std": 0.005827136700072488, + "n": 5, + "ci95": 0.007234185920183075 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7763000130653381, + "std": 0.004932043808001057, + "n": 5, + "ci95": 0.006122959475641532 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5480988025665283, + "std": 0.0031799981918085233, + "n": 5, + "ci95": 0.003947856267916743 + }, + "covertype_test_accuracy": { + "mean": 0.7828420996665955, + "std": 0.005015207170592256, + "n": 5, + "ci95": 0.006226203874683148 + }, + "covertype_test_precision": { + "mean": 0.7838454961776733, + "std": 0.006142165229438453, + "n": 5, + "ci95": 0.007625282794839696 + }, + "covertype_test_recall": { + "mean": 0.7828420996665955, + "std": 0.005015207170592256, + "n": 5, + "ci95": 0.006226203874683148 + }, + "covertype_test_f1-score": { + "mean": 0.7818089246749877, + "std": 0.005513745417992108, + "n": 5, + "ci95": 0.0068451216306314325 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7828420996665955, + "std": 0.005015207170592256, + "n": 5, + "ci95": 0.006226203874683148 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.530873441696167, + "std": 0.006664500007420614, + "n": 5, + "ci95": 0.008273743109225918 + }, + "covertype_test_accuracy": { + "mean": 0.7880000114440918, + "std": 0.006509730865544108, + "n": 5, + "ci95": 0.008081602645620885 + }, + "covertype_test_precision": { + "mean": 0.7879996418952941, + "std": 0.0070279029910189075, + "n": 5, + "ci95": 0.008724895172857204 + }, + "covertype_test_recall": { + "mean": 0.7880000114440918, + "std": 0.006509730865544108, + "n": 5, + "ci95": 0.008081602645620885 + }, + "covertype_test_f1-score": { + "mean": 0.7867334008216857, + "std": 0.006900635467289949, + "n": 5, + "ci95": 0.008566897004006088 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7880000114440918, + "std": 0.006509730865544108, + "n": 5, + "ci95": 0.008081602645620885 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5053168416023255, + "std": 0.010362706675591369, + "n": 5, + "ci95": 0.012864937032731305 + }, + "covertype_test_accuracy": { + "mean": 0.790375018119812, + "std": 0.005600641185496494, + "n": 5, + "ci95": 0.006952999679518789 + }, + "covertype_test_precision": { + "mean": 0.791383969783783, + "std": 0.005926349060463937, + "n": 5, + "ci95": 0.007357354587333619 + }, + "covertype_test_recall": { + "mean": 0.790375018119812, + "std": 0.005600641185496494, + "n": 5, + "ci95": 0.006952999679518789 + }, + "covertype_test_f1-score": { + "mean": 0.7899011254310608, + "std": 0.005779341803186769, + "n": 5, + "ci95": 0.0071748502313355896 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.790375018119812, + "std": 0.005600641185496494, + "n": 5, + "ci95": 0.006952999679518789 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4603646516799927, + "std": 0.010946098740333613, + "n": 5, + "ci95": 0.013589197828029344 + }, + "covertype_test_accuracy": { + "mean": 0.7894000053405762, + "std": 0.007733036592843917, + "n": 5, + "ci95": 0.009600293818320078 + }, + "covertype_test_precision": { + "mean": 0.790141248703003, + "std": 0.008465983281209354, + "n": 5, + "ci95": 0.010510221435626894 + }, + "covertype_test_recall": { + "mean": 0.7894000053405762, + "std": 0.007733036592843917, + "n": 5, + "ci95": 0.009600293818320078 + }, + "covertype_test_f1-score": { + "mean": 0.788563072681427, + "std": 0.007564500711596183, + "n": 5, + "ci95": 0.009391062430432294 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7894000053405762, + "std": 0.007733036592843917, + "n": 5, + "ci95": 0.009600293818320078 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..fe470b9980d24babceb4b272629b59cf60b75e33 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b22828d0766d322b05d6311aa46db421b2c20f18f642f77a40123b05a280f836 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..14aa48f4554405ea3d845fef7b68607138099d78 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ad25798e062ea5005cbf3354c94bb29be6a11f6939089dce1bf5116a23eee5fb +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..e372b7585de46abf71080e64b47c97a4b55ef742 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:acb97e51115c0419783b75bbc3fa5f0530308f7c5c7ae37ea2a1b171344fd673 +size 11493840 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..24ee3f3577ae3399162e0de7f1057850e0704922 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue5-gpu3-kl1e-6/pretrain/wjepa_joint/covertype/20260917_164714/vtjepa_config.yaml @@ -0,0 +1,130 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..d528bb85ec9836928846c3d9ad03b121affeec8a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "e1fb426b1a3c5b791bc2d258e1863928c0e505ccf36637c0e5691751ed46f776", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "4deb20016ca09ec340f89aa2d63521c81d4f894ca2317e43d5c4eb41b014bcb3", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 3e-06, + "start_epoch": 1, + "annealing_epochs": 20 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "3e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..7eccf858003193e7ffb61b5bcc429715df037a02 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp1zn4t7x7", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp1zn4t7x7/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6004819869995117, + "lr": 0.0, + "covertype_val_accuracy": 0.7507507801055908, + "covertype_val_precision": 0.7475725412368774, + "covertype_val_recall": 0.7507507801055908, + "covertype_val_f1-score": 0.7478904128074646, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7507507801055908 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6091881990432739, + "lr": 0.0, + "covertype_test_accuracy": 0.7384999990463257, + "covertype_test_precision": 0.7411972880363464, + "covertype_test_recall": 0.7384999990463257, + "covertype_test_f1-score": 0.7382409572601318, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7384999990463257 + }, + "5": { + "covertype_test_loss": 0.5925432443618774, + "covertype_test_accuracy": 0.7405263185501099, + "covertype_test_precision": 0.7425681948661804, + "covertype_test_recall": 0.7405263185501099, + "covertype_test_f1-score": 0.7402728199958801, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7405263185501099 + }, + "10": { + "covertype_test_loss": 0.5956102013587952, + "covertype_test_accuracy": 0.7383333444595337, + "covertype_test_precision": 0.740450382232666, + "covertype_test_recall": 0.7383333444595337, + "covertype_test_f1-score": 0.7382639050483704, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7383333444595337 + }, + "20": { + "covertype_test_loss": 0.581591010093689, + "covertype_test_accuracy": 0.7412499785423279, + "covertype_test_precision": 0.7447217702865601, + "covertype_test_recall": 0.7412499785423279, + "covertype_test_f1-score": 0.7419601678848267, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7412499785423279 + }, + "50": { + "covertype_test_loss": 0.5174127817153931, + "covertype_test_accuracy": 0.7570000290870667, + "covertype_test_precision": 0.7626985907554626, + "covertype_test_recall": 0.7570000290870667, + "covertype_test_f1-score": 0.7587414383888245, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7570000290870667 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6214142441749573, + "lr": 0.0, + "covertype_val_accuracy": 0.7637637853622437, + "covertype_val_precision": 0.767781674861908, + "covertype_val_recall": 0.7637637853622437, + "covertype_val_f1-score": 0.7628491520881653, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7637637853622437 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6001258492469788, + "lr": 0.0, + "covertype_test_accuracy": 0.7615000009536743, + "covertype_test_precision": 0.7633609175682068, + "covertype_test_recall": 0.7615000009536743, + "covertype_test_f1-score": 0.7607797384262085, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7615000009536743 + }, + "5": { + "covertype_test_loss": 0.5783902406692505, + "covertype_test_accuracy": 0.7678947448730469, + "covertype_test_precision": 0.7706372737884521, + "covertype_test_recall": 0.7678947448730469, + "covertype_test_f1-score": 0.7673482894897461, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7678947448730469 + }, + "10": { + "covertype_test_loss": 0.5829262733459473, + "covertype_test_accuracy": 0.7644444704055786, + "covertype_test_precision": 0.7657877802848816, + "covertype_test_recall": 0.7644444704055786, + "covertype_test_f1-score": 0.7637072801589966, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7644444704055786 + }, + "20": { + "covertype_test_loss": 0.568713903427124, + "covertype_test_accuracy": 0.7643749713897705, + "covertype_test_precision": 0.7680566906929016, + "covertype_test_recall": 0.7643749713897705, + "covertype_test_f1-score": 0.7649738192558289, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7643749713897705 + }, + "50": { + "covertype_test_loss": 0.5077642798423767, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7795364260673523, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7761644124984741, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7749999761581421 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.633346676826477, + "lr": 4.758647264679894e-05, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.7588301301002502, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.7554336190223694, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5813758373260498, + "lr": 4.758647264679894e-05, + "covertype_test_accuracy": 0.7570000290870667, + "covertype_test_precision": 0.755577564239502, + "covertype_test_recall": 0.7570000290870667, + "covertype_test_f1-score": 0.7539384365081787, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7570000290870667 + }, + "5": { + "covertype_test_loss": 0.5588240623474121, + "covertype_test_accuracy": 0.7631579041481018, + "covertype_test_precision": 0.7621819972991943, + "covertype_test_recall": 0.7631579041481018, + "covertype_test_f1-score": 0.7611554265022278, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7631579041481018 + }, + "10": { + "covertype_test_loss": 0.5640314221382141, + "covertype_test_accuracy": 0.7588889002799988, + "covertype_test_precision": 0.7593820095062256, + "covertype_test_recall": 0.7588889002799988, + "covertype_test_f1-score": 0.7573286294937134, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7588889002799988 + }, + "20": { + "covertype_test_loss": 0.550855815410614, + "covertype_test_accuracy": 0.7587500214576721, + "covertype_test_precision": 0.7592757344245911, + "covertype_test_recall": 0.7587500214576721, + "covertype_test_f1-score": 0.7584900259971619, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7587500214576721 + }, + "50": { + "covertype_test_loss": 0.5110443830490112, + "covertype_test_accuracy": 0.7689999938011169, + "covertype_test_precision": 0.7691137790679932, + "covertype_test_recall": 0.7689999938011169, + "covertype_test_f1-score": 0.7682386636734009, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7689999938011169 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6098397970199585, + "lr": 0.0, + "covertype_val_accuracy": 0.7627627849578857, + "covertype_val_precision": 0.7602444291114807, + "covertype_val_recall": 0.7627627849578857, + "covertype_val_f1-score": 0.760279655456543, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7627627849578857 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6302990317344666, + "lr": 0.0, + "covertype_test_accuracy": 0.7559999823570251, + "covertype_test_precision": 0.757010817527771, + "covertype_test_recall": 0.7559999823570251, + "covertype_test_f1-score": 0.7551034688949585, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7559999823570251 + }, + "5": { + "covertype_test_loss": 0.6062983274459839, + "covertype_test_accuracy": 0.7626315951347351, + "covertype_test_precision": 0.7642847895622253, + "covertype_test_recall": 0.7626315951347351, + "covertype_test_f1-score": 0.7619483470916748, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7626315951347351 + }, + "10": { + "covertype_test_loss": 0.6136037111282349, + "covertype_test_accuracy": 0.7594444155693054, + "covertype_test_precision": 0.7594015002250671, + "covertype_test_recall": 0.7594444155693054, + "covertype_test_f1-score": 0.7584443688392639, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7594444155693054 + }, + "20": { + "covertype_test_loss": 0.598824143409729, + "covertype_test_accuracy": 0.7612500190734863, + "covertype_test_precision": 0.7619704008102417, + "covertype_test_recall": 0.7612500190734863, + "covertype_test_f1-score": 0.7609464526176453, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7612500190734863 + }, + "50": { + "covertype_test_loss": 0.5286256670951843, + "covertype_test_accuracy": 0.765999972820282, + "covertype_test_precision": 0.7667999863624573, + "covertype_test_recall": 0.765999972820282, + "covertype_test_f1-score": 0.7656886577606201, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.765999972820282 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6368720531463623, + "lr": 1.5708421415183693e-05, + "covertype_val_accuracy": 0.7317317128181458, + "covertype_val_precision": 0.7293725609779358, + "covertype_val_recall": 0.7317317128181458, + "covertype_val_f1-score": 0.728509247303009, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7317317128181458 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6152999997138977, + "lr": 1.5708415958215483e-05, + "covertype_test_accuracy": 0.7465000152587891, + "covertype_test_precision": 0.7455755472183228, + "covertype_test_recall": 0.7465000152587891, + "covertype_test_f1-score": 0.7445163726806641, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7465000152587891 + }, + "5": { + "covertype_test_loss": 0.6031625866889954, + "covertype_test_accuracy": 0.7505263090133667, + "covertype_test_precision": 0.7487415671348572, + "covertype_test_recall": 0.7505263090133667, + "covertype_test_f1-score": 0.7488090395927429, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7505263090133667 + }, + "10": { + "covertype_test_loss": 0.6106144785881042, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.7488878965377808, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.7486529350280762, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.75 + }, + "20": { + "covertype_test_loss": 0.5931317210197449, + "covertype_test_accuracy": 0.7524999976158142, + "covertype_test_precision": 0.7527060508728027, + "covertype_test_recall": 0.7524999976158142, + "covertype_test_f1-score": 0.7522042989730835, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7524999976158142 + }, + "50": { + "covertype_test_loss": 0.5263479948043823, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7621026039123535, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7606625556945801, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7599999904632568 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6072577834129333, + "std": 0.018166194496535133, + "n": 5, + "ci95": 0.02255269358079534 + }, + "lr": { + "mean": 1.2658977721002884e-05, + "std": 2.067594088655112e-05, + "n": 5, + "ci95": 2.5668455735072258e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7519000053405762, + "std": 0.009269574303750848, + "n": 5, + "ci95": 0.011507851517101193 + }, + "covertype_test_precision": { + "mean": 0.7525444269180298, + "std": 0.008992606437294156, + "n": 5, + "ci95": 0.01116400562108176 + }, + "covertype_test_recall": { + "mean": 0.7519000053405762, + "std": 0.009269574303750848, + "n": 5, + "ci95": 0.011507851517101193 + }, + "covertype_test_f1-score": { + "mean": 0.7505157947540283, + "std": 0.009010750121691282, + "n": 5, + "ci95": 0.011186530369163318 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7519000053405762, + "std": 0.009269574303750848, + "n": 5, + "ci95": 0.011507851517101193 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5878436923027038, + "std": 0.01955015692759863, + "n": 5, + "ci95": 0.024270834418771103 + }, + "covertype_test_accuracy": { + "mean": 0.756947374343872, + "std": 0.011198293634657245, + "n": 5, + "ci95": 0.013902288947658539 + }, + "covertype_test_precision": { + "mean": 0.7576827645301819, + "std": 0.01161942734331396, + "n": 5, + "ci95": 0.014425111682474592 + }, + "covertype_test_recall": { + "mean": 0.756947374343872, + "std": 0.011198293634657245, + "n": 5, + "ci95": 0.013902288947658539 + }, + "covertype_test_f1-score": { + "mean": 0.7559067845344544, + "std": 0.011065211099789656, + "n": 5, + "ci95": 0.013737071646346658 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.756947374343872, + "std": 0.011198293634657245, + "n": 5, + "ci95": 0.013902288947658539 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5933572173118591, + "std": 0.02050375801112721, + "n": 5, + "ci95": 0.02545469673177433 + }, + "covertype_test_accuracy": { + "mean": 0.7542222261428833, + "std": 0.01029353125053296, + "n": 5, + "ci95": 0.012779058167735056 + }, + "covertype_test_precision": { + "mean": 0.7547819137573242, + "std": 0.010046924814103174, + "n": 5, + "ci95": 0.012472904922655926 + }, + "covertype_test_recall": { + "mean": 0.7542222261428833, + "std": 0.01029353125053296, + "n": 5, + "ci95": 0.012779058167735056 + }, + "covertype_test_f1-score": { + "mean": 0.7532794237136841, + "std": 0.009983525354174268, + "n": 5, + "ci95": 0.012394196715869017 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7542222261428833, + "std": 0.01029353125053296, + "n": 5, + "ci95": 0.012779058167735056 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5786233186721802, + "std": 0.019342989679786583, + "n": 5, + "ci95": 0.02401364354366664 + }, + "covertype_test_accuracy": { + "mean": 0.7556249976158143, + "std": 0.009142968333909275, + "n": 5, + "ci95": 0.011350674644207916 + }, + "covertype_test_precision": { + "mean": 0.7573461294174194, + "std": 0.00895444242539924, + "n": 5, + "ci95": 0.011116626338302198 + }, + "covertype_test_recall": { + "mean": 0.7556249976158143, + "std": 0.009142968333909275, + "n": 5, + "ci95": 0.011350674644207916 + }, + "covertype_test_f1-score": { + "mean": 0.7557149529457092, + "std": 0.00897656710543659, + "n": 5, + "ci95": 0.011144093352901795 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7556249976158143, + "std": 0.009142968333909275, + "n": 5, + "ci95": 0.011350674644207916 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5182390213012695, + "std": 0.009162471857899607, + "n": 5, + "ci95": 0.011374887585469973 + }, + "covertype_test_accuracy": { + "mean": 0.7653999924659729, + "std": 0.007162385763919968, + "n": 5, + "ci95": 0.008891850820596844 + }, + "covertype_test_precision": { + "mean": 0.7680502772331238, + "std": 0.007047007246730257, + "n": 5, + "ci95": 0.008748612436548803 + }, + "covertype_test_recall": { + "mean": 0.7653999924659729, + "std": 0.007162385763919968, + "n": 5, + "ci95": 0.008891850820596844 + }, + "covertype_test_f1-score": { + "mean": 0.76589914560318, + "std": 0.0068838216275856675, + "n": 5, + "ci95": 0.008546023211487811 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7653999924659729, + "std": 0.007162385763919968, + "n": 5, + "ci95": 0.008891850820596844 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..bfa7ea80278ae20c7f5c052eab7d8bc8eeb9f59f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp9putqsev", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp9putqsev/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5496078133583069, + "lr": 0.0, + "covertype_val_accuracy": 0.7907907962799072, + "covertype_val_precision": 0.7904288172721863, + "covertype_val_recall": 0.7907907962799072, + "covertype_val_f1-score": 0.7854368090629578, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7907907962799072 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.557127833366394, + "lr": 0.0, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.7911400198936462, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7897135019302368, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7919999957084656 + }, + "5": { + "covertype_test_loss": 0.5422798991203308, + "covertype_test_accuracy": 0.7989473938941956, + "covertype_test_precision": 0.7984053492546082, + "covertype_test_recall": 0.7989473938941956, + "covertype_test_f1-score": 0.7973029017448425, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7989473938941956 + }, + "10": { + "covertype_test_loss": 0.5451805591583252, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7983623743057251, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7981313467025757, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.800000011920929 + }, + "20": { + "covertype_test_loss": 0.5255445837974548, + "covertype_test_accuracy": 0.8050000071525574, + "covertype_test_precision": 0.8038108944892883, + "covertype_test_recall": 0.8050000071525574, + "covertype_test_f1-score": 0.8038836717605591, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8050000071525574 + }, + "50": { + "covertype_test_loss": 0.4615596532821655, + "covertype_test_accuracy": 0.8190000057220459, + "covertype_test_precision": 0.8197087645530701, + "covertype_test_recall": 0.8190000057220459, + "covertype_test_f1-score": 0.8191837072372437, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8190000057220459 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5850308537483215, + "lr": 0.0, + "covertype_val_accuracy": 0.7777777910232544, + "covertype_val_precision": 0.7722184658050537, + "covertype_val_recall": 0.7777777910232544, + "covertype_val_f1-score": 0.7733013033866882, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7777777910232544 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.600143313407898, + "lr": 0.0, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7789371609687805, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7770465612411499, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7799999713897705 + }, + "5": { + "covertype_test_loss": 0.5868189334869385, + "covertype_test_accuracy": 0.7857894897460938, + "covertype_test_precision": 0.7836189270019531, + "covertype_test_recall": 0.7857894897460938, + "covertype_test_f1-score": 0.783159613609314, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7857894897460938 + }, + "10": { + "covertype_test_loss": 0.593381404876709, + "covertype_test_accuracy": 0.7866666913032532, + "covertype_test_precision": 0.7848801612854004, + "covertype_test_recall": 0.7866666913032532, + "covertype_test_f1-score": 0.7841641306877136, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7866666913032532 + }, + "20": { + "covertype_test_loss": 0.5718548893928528, + "covertype_test_accuracy": 0.7912499904632568, + "covertype_test_precision": 0.7897574305534363, + "covertype_test_recall": 0.7912499904632568, + "covertype_test_f1-score": 0.7894992232322693, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7912499904632568 + }, + "50": { + "covertype_test_loss": 0.5240607261657715, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7903297543525696, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7898722887039185, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7900000214576721 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5477525591850281, + "lr": 0.0, + "covertype_val_accuracy": 0.7697697877883911, + "covertype_val_precision": 0.7623438835144043, + "covertype_val_recall": 0.7697697877883911, + "covertype_val_f1-score": 0.7639090418815613, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7697697877883911 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5659570097923279, + "lr": 0.0, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7811025381088257, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7791525721549988, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7820000052452087 + }, + "5": { + "covertype_test_loss": 0.5453044772148132, + "covertype_test_accuracy": 0.788947343826294, + "covertype_test_precision": 0.7862661480903625, + "covertype_test_recall": 0.788947343826294, + "covertype_test_f1-score": 0.7863954305648804, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.788947343826294 + }, + "10": { + "covertype_test_loss": 0.5484623312950134, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7883303165435791, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7878137826919556, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7900000214576721 + }, + "20": { + "covertype_test_loss": 0.5309207439422607, + "covertype_test_accuracy": 0.7931249737739563, + "covertype_test_precision": 0.7918521165847778, + "covertype_test_recall": 0.7931249737739563, + "covertype_test_f1-score": 0.791797935962677, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7931249737739563 + }, + "50": { + "covertype_test_loss": 0.47433966398239136, + "covertype_test_accuracy": 0.796999990940094, + "covertype_test_precision": 0.7954114675521851, + "covertype_test_recall": 0.796999990940094, + "covertype_test_f1-score": 0.7956991195678711, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.796999990940094 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5522556304931641, + "lr": 0.0, + "covertype_val_accuracy": 0.7877877950668335, + "covertype_val_precision": 0.7756366729736328, + "covertype_val_recall": 0.7877877950668335, + "covertype_val_f1-score": 0.7766038179397583, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7877877950668335 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5944715142250061, + "lr": 0.0, + "covertype_test_accuracy": 0.7785000205039978, + "covertype_test_precision": 0.7787157893180847, + "covertype_test_recall": 0.7785000205039978, + "covertype_test_f1-score": 0.7731351256370544, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7785000205039978 + }, + "5": { + "covertype_test_loss": 0.578056812286377, + "covertype_test_accuracy": 0.7863157987594604, + "covertype_test_precision": 0.7844151258468628, + "covertype_test_recall": 0.7863157987594604, + "covertype_test_f1-score": 0.7825912237167358, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7863157987594604 + }, + "10": { + "covertype_test_loss": 0.5851059556007385, + "covertype_test_accuracy": 0.7855555415153503, + "covertype_test_precision": 0.7843822836875916, + "covertype_test_recall": 0.7855555415153503, + "covertype_test_f1-score": 0.7822875380516052, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7855555415153503 + }, + "20": { + "covertype_test_loss": 0.5682072639465332, + "covertype_test_accuracy": 0.7875000238418579, + "covertype_test_precision": 0.7866244912147522, + "covertype_test_recall": 0.7875000238418579, + "covertype_test_f1-score": 0.7856395244598389, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7875000238418579 + }, + "50": { + "covertype_test_loss": 0.4882395267486572, + "covertype_test_accuracy": 0.7960000038146973, + "covertype_test_precision": 0.7957306504249573, + "covertype_test_recall": 0.7960000038146973, + "covertype_test_f1-score": 0.7952757477760315, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7960000038146973 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5942533016204834, + "lr": 0.0, + "covertype_val_accuracy": 0.7677677869796753, + "covertype_val_precision": 0.7667320966720581, + "covertype_val_recall": 0.7677677869796753, + "covertype_val_f1-score": 0.7636533975601196, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7677677869796753 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5841752886772156, + "lr": 0.0, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7849198579788208, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7825120687484741, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7850000262260437 + }, + "5": { + "covertype_test_loss": 0.5666072368621826, + "covertype_test_accuracy": 0.7931578755378723, + "covertype_test_precision": 0.7920896410942078, + "covertype_test_recall": 0.7931578755378723, + "covertype_test_f1-score": 0.7908695340156555, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7931578755378723 + }, + "10": { + "covertype_test_loss": 0.5698574781417847, + "covertype_test_accuracy": 0.79666668176651, + "covertype_test_precision": 0.7964322566986084, + "covertype_test_recall": 0.79666668176651, + "covertype_test_f1-score": 0.7947745323181152, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.79666668176651 + }, + "20": { + "covertype_test_loss": 0.5521628856658936, + "covertype_test_accuracy": 0.8031250238418579, + "covertype_test_precision": 0.8037466406822205, + "covertype_test_recall": 0.8031250238418579, + "covertype_test_f1-score": 0.8019154667854309, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8031250238418579 + }, + "50": { + "covertype_test_loss": 0.5014404058456421, + "covertype_test_accuracy": 0.8069999814033508, + "covertype_test_precision": 0.8079388737678528, + "covertype_test_recall": 0.8069999814033508, + "covertype_test_f1-score": 0.8070964813232422, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8069999814033508 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5803749918937683, + "std": 0.018386471388208866, + "n": 5, + "ci95": 0.022826159619144498 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7835000038146973, + "std": 0.00533853877994597, + "n": 5, + "ci95": 0.006627608732047774 + }, + "covertype_test_precision": { + "mean": 0.7829630732536316, + "std": 0.005205776704630826, + "n": 5, + "ci95": 0.006462789270035299 + }, + "covertype_test_recall": { + "mean": 0.7835000038146973, + "std": 0.00533853877994597, + "n": 5, + "ci95": 0.006627608732047774 + }, + "covertype_test_f1-score": { + "mean": 0.7803119659423828, + "std": 0.006259860818611092, + "n": 5, + "ci95": 0.007771397742520564 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7835000038146973, + "std": 0.00533853877994597, + "n": 5, + "ci95": 0.006627608732047774 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5638134717941284, + "std": 0.019660917906902258, + "n": 5, + "ci95": 0.024408340291419337 + }, + "covertype_test_accuracy": { + "mean": 0.7906315803527832, + "std": 0.005487335125075646, + "n": 5, + "ci95": 0.006812334177891256 + }, + "covertype_test_precision": { + "mean": 0.7889590382575988, + "std": 0.006233960443504514, + "n": 5, + "ci95": 0.007739243334864203 + }, + "covertype_test_recall": { + "mean": 0.7906315803527832, + "std": 0.005487335125075646, + "n": 5, + "ci95": 0.006812334177891256 + }, + "covertype_test_f1-score": { + "mean": 0.7880637407302856, + "std": 0.006124065975791147, + "n": 5, + "ci95": 0.007602813205976348 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7906315803527832, + "std": 0.005487335125075646, + "n": 5, + "ci95": 0.006812334177891256 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5683975458145142, + "std": 0.021458895713412137, + "n": 5, + "ci95": 0.026640466703091403 + }, + "covertype_test_accuracy": { + "mean": 0.7917777895927429, + "std": 0.0063147914277582404, + "n": 5, + "ci95": 0.00783959216797045 + }, + "covertype_test_precision": { + "mean": 0.7904774785041809, + "std": 0.006533043500753082, + "n": 5, + "ci95": 0.008110544464917662 + }, + "covertype_test_recall": { + "mean": 0.7917777895927429, + "std": 0.0063147914277582404, + "n": 5, + "ci95": 0.00783959216797045 + }, + "covertype_test_f1-score": { + "mean": 0.789434266090393, + "std": 0.006812372380920904, + "n": 5, + "ci95": 0.00845732147668494 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7917777895927429, + "std": 0.0063147914277582404, + "n": 5, + "ci95": 0.00783959216797045 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.549738073348999, + "std": 0.021068703630623853, + "n": 5, + "ci95": 0.026156056912011883 + }, + "covertype_test_accuracy": { + "mean": 0.7960000038146973, + "std": 0.0076623112469676674, + "n": 5, + "ci95": 0.009512490780966986 + }, + "covertype_test_precision": { + "mean": 0.7951583147048951, + "std": 0.00808630198245701, + "n": 5, + "ci95": 0.010038860414431552 + }, + "covertype_test_recall": { + "mean": 0.7960000038146973, + "std": 0.0076623112469676674, + "n": 5, + "ci95": 0.009512490780966986 + }, + "covertype_test_f1-score": { + "mean": 0.794547164440155, + "std": 0.00796630821136633, + "n": 5, + "ci95": 0.009889892354471148 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7960000038146973, + "std": 0.0076623112469676674, + "n": 5, + "ci95": 0.009512490780966986 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4899279952049255, + "std": 0.024229056631882337, + "n": 5, + "ci95": 0.030079524364599368 + }, + "covertype_test_accuracy": { + "mean": 0.8018000006675721, + "std": 0.011388585730433215, + "n": 5, + "ci95": 0.014138529913134348 + }, + "covertype_test_precision": { + "mean": 0.801823902130127, + "std": 0.011912426796302455, + "n": 5, + "ci95": 0.014788860231123597 + }, + "covertype_test_recall": { + "mean": 0.8018000006675721, + "std": 0.011388585730433215, + "n": 5, + "ci95": 0.014138529913134348 + }, + "covertype_test_f1-score": { + "mean": 0.8014254689216613, + "std": 0.011743099356283735, + "n": 5, + "ci95": 0.014578646150772806 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8018000006675721, + "std": 0.011388585730433215, + "n": 5, + "ci95": 0.014138529913134348 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..cfec7bb668058d3b6ee3e2126058dcb1115baa2a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpvw0gtece", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpvw0gtece/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5787752270698547, + "lr": 0.0, + "covertype_val_accuracy": 0.7457457184791565, + "covertype_val_precision": 0.7487484812736511, + "covertype_val_recall": 0.7457457184791565, + "covertype_val_f1-score": 0.7425240278244019, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7457457184791565 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5770928859710693, + "lr": 0.0, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7423357963562012, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7368359565734863, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7400000095367432 + }, + "5": { + "covertype_test_loss": 0.5651364326477051, + "covertype_test_accuracy": 0.7463157773017883, + "covertype_test_precision": 0.7492873668670654, + "covertype_test_recall": 0.7463157773017883, + "covertype_test_f1-score": 0.743782639503479, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7463157773017883 + }, + "10": { + "covertype_test_loss": 0.5681675672531128, + "covertype_test_accuracy": 0.7444444298744202, + "covertype_test_precision": 0.7479742169380188, + "covertype_test_recall": 0.7444444298744202, + "covertype_test_f1-score": 0.7421531677246094, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7444444298744202 + }, + "20": { + "covertype_test_loss": 0.5545402765274048, + "covertype_test_accuracy": 0.7425000071525574, + "covertype_test_precision": 0.7423503398895264, + "covertype_test_recall": 0.7425000071525574, + "covertype_test_f1-score": 0.7401916980743408, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7425000071525574 + }, + "50": { + "covertype_test_loss": 0.5044726133346558, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7633913159370422, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.761498749256134, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7620000243186951 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5699076652526855, + "lr": 0.0, + "covertype_val_accuracy": 0.7747747898101807, + "covertype_val_precision": 0.7675707340240479, + "covertype_val_recall": 0.7747747898101807, + "covertype_val_f1-score": 0.7688731551170349, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7747747898101807 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5801678895950317, + "lr": 0.0, + "covertype_test_accuracy": 0.7515000104904175, + "covertype_test_precision": 0.7489393949508667, + "covertype_test_recall": 0.7515000104904175, + "covertype_test_f1-score": 0.7468096017837524, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7515000104904175 + }, + "5": { + "covertype_test_loss": 0.5639116764068604, + "covertype_test_accuracy": 0.7573684453964233, + "covertype_test_precision": 0.7562372088432312, + "covertype_test_recall": 0.7573684453964233, + "covertype_test_f1-score": 0.7536697387695312, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7573684453964233 + }, + "10": { + "covertype_test_loss": 0.5686106085777283, + "covertype_test_accuracy": 0.754444420337677, + "covertype_test_precision": 0.7521719932556152, + "covertype_test_recall": 0.754444420337677, + "covertype_test_f1-score": 0.7507399320602417, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.754444420337677 + }, + "20": { + "covertype_test_loss": 0.5609227418899536, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7519561648368835, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.751654326915741, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7549999952316284 + }, + "50": { + "covertype_test_loss": 0.5241204500198364, + "covertype_test_accuracy": 0.7770000100135803, + "covertype_test_precision": 0.7754213809967041, + "covertype_test_recall": 0.7770000100135803, + "covertype_test_f1-score": 0.775875985622406, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7770000100135803 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6039823889732361, + "lr": 0.0, + "covertype_val_accuracy": 0.7587587833404541, + "covertype_val_precision": 0.7554882764816284, + "covertype_val_recall": 0.7587587833404541, + "covertype_val_f1-score": 0.7522929310798645, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7587587833404541 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5820844769477844, + "lr": 0.0, + "covertype_test_accuracy": 0.7444999814033508, + "covertype_test_precision": 0.7442454695701599, + "covertype_test_recall": 0.7444999814033508, + "covertype_test_f1-score": 0.7408697605133057, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7444999814033508 + }, + "5": { + "covertype_test_loss": 0.5656078457832336, + "covertype_test_accuracy": 0.7494736909866333, + "covertype_test_precision": 0.7477542161941528, + "covertype_test_recall": 0.7494736909866333, + "covertype_test_f1-score": 0.7460588216781616, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7494736909866333 + }, + "10": { + "covertype_test_loss": 0.5681142210960388, + "covertype_test_accuracy": 0.7494444251060486, + "covertype_test_precision": 0.7482799887657166, + "covertype_test_recall": 0.7494444251060486, + "covertype_test_f1-score": 0.7462994456291199, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7494444251060486 + }, + "20": { + "covertype_test_loss": 0.5529563426971436, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.7462478876113892, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.7466153502464294, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.75 + }, + "50": { + "covertype_test_loss": 0.5171757936477661, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7567002177238464, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7580764889717102, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7599999904632568 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5850926637649536, + "lr": 0.0, + "covertype_val_accuracy": 0.7557557821273804, + "covertype_val_precision": 0.7519928216934204, + "covertype_val_recall": 0.7557557821273804, + "covertype_val_f1-score": 0.7499321103096008, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7557557821273804 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5670088529586792, + "lr": 0.0, + "covertype_test_accuracy": 0.7605000138282776, + "covertype_test_precision": 0.7623372673988342, + "covertype_test_recall": 0.7605000138282776, + "covertype_test_f1-score": 0.757686972618103, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7605000138282776 + }, + "5": { + "covertype_test_loss": 0.5520531535148621, + "covertype_test_accuracy": 0.7673684358596802, + "covertype_test_precision": 0.7694555521011353, + "covertype_test_recall": 0.7673684358596802, + "covertype_test_f1-score": 0.7654106616973877, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7673684358596802 + }, + "10": { + "covertype_test_loss": 0.5558380484580994, + "covertype_test_accuracy": 0.7661111354827881, + "covertype_test_precision": 0.7667897343635559, + "covertype_test_recall": 0.7661111354827881, + "covertype_test_f1-score": 0.7639310956001282, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7661111354827881 + }, + "20": { + "covertype_test_loss": 0.5418160557746887, + "covertype_test_accuracy": 0.7693750262260437, + "covertype_test_precision": 0.7692393660545349, + "covertype_test_recall": 0.7693750262260437, + "covertype_test_f1-score": 0.7675248384475708, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7693750262260437 + }, + "50": { + "covertype_test_loss": 0.49711093306541443, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.7731911540031433, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.7738386988639832, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7760000228881836 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5700529217720032, + "lr": 0.0, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7552215456962585, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7521353363990784, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5623732805252075, + "lr": 0.0, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7535451650619507, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7499125003814697, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7519999742507935 + }, + "5": { + "covertype_test_loss": 0.5464966893196106, + "covertype_test_accuracy": 0.7589473724365234, + "covertype_test_precision": 0.7612676024436951, + "covertype_test_recall": 0.7589473724365234, + "covertype_test_f1-score": 0.7572047710418701, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7589473724365234 + }, + "10": { + "covertype_test_loss": 0.5492457151412964, + "covertype_test_accuracy": 0.7566666603088379, + "covertype_test_precision": 0.7574615478515625, + "covertype_test_recall": 0.7566666603088379, + "covertype_test_f1-score": 0.7546504735946655, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7566666603088379 + }, + "20": { + "covertype_test_loss": 0.5388725996017456, + "covertype_test_accuracy": 0.7562500238418579, + "covertype_test_precision": 0.7563363313674927, + "covertype_test_recall": 0.7562500238418579, + "covertype_test_f1-score": 0.7546451687812805, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7562500238418579 + }, + "50": { + "covertype_test_loss": 0.49220532178878784, + "covertype_test_accuracy": 0.7720000147819519, + "covertype_test_precision": 0.7725027203559875, + "covertype_test_recall": 0.7720000147819519, + "covertype_test_f1-score": 0.7714664340019226, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7720000147819519 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5737454771995545, + "std": 0.008612496830550216, + "n": 5, + "ci95": 0.010692112870530854 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7496999979019165, + "std": 0.007846977545585016, + "n": 5, + "ci95": 0.009741747516504582 + }, + "covertype_test_precision": { + "mean": 0.7502806186676025, + "std": 0.008021255341833976, + "n": 5, + "ci95": 0.00995810729056121 + }, + "covertype_test_recall": { + "mean": 0.7496999979019165, + "std": 0.007846977545585016, + "n": 5, + "ci95": 0.009741747516504582 + }, + "covertype_test_f1-score": { + "mean": 0.7464229583740234, + "std": 0.008092481440241758, + "n": 5, + "ci95": 0.010046531994626372 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7496999979019165, + "std": 0.007846977545585016, + "n": 5, + "ci95": 0.009741747516504582 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5586411595344544, + "std": 0.008794765749017651, + "n": 5, + "ci95": 0.010918393342661824 + }, + "covertype_test_accuracy": { + "mean": 0.7558947443962097, + "std": 0.008308466553373368, + "n": 5, + "ci95": 0.010314669940380486 + }, + "covertype_test_precision": { + "mean": 0.7568003892898559, + "std": 0.00892615629708634, + "n": 5, + "ci95": 0.011081510101682051 + }, + "covertype_test_recall": { + "mean": 0.7558947443962097, + "std": 0.008308466553373368, + "n": 5, + "ci95": 0.010314669940380486 + }, + "covertype_test_f1-score": { + "mean": 0.7532253265380859, + "std": 0.00873268292215406, + "n": 5, + "ci95": 0.010841319689665806 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7558947443962097, + "std": 0.008308466553373368, + "n": 5, + "ci95": 0.010314669940380486 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5619952321052551, + "std": 0.008940973752875527, + "n": 5, + "ci95": 0.011099905453560745 + }, + "covertype_test_accuracy": { + "mean": 0.7542222142219543, + "std": 0.00815174025222224, + "n": 5, + "ci95": 0.010120099732151845 + }, + "covertype_test_precision": { + "mean": 0.7545354962348938, + "std": 0.007850096117547816, + "n": 5, + "ci95": 0.009745619114262721 + }, + "covertype_test_recall": { + "mean": 0.7542222142219543, + "std": 0.00815174025222224, + "n": 5, + "ci95": 0.010120099732151845 + }, + "covertype_test_f1-score": { + "mean": 0.7515548229217529, + "std": 0.008358070000727977, + "n": 5, + "ci95": 0.010376250881229322 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7542222142219543, + "std": 0.00815174025222224, + "n": 5, + "ci95": 0.010120099732151845 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5498216032981873, + "std": 0.00921001111933088, + "n": 5, + "ci95": 0.01143390591186306 + }, + "covertype_test_accuracy": { + "mean": 0.7546250104904175, + "std": 0.009858380624236825, + "n": 5, + "ci95": 0.012238833921087267 + }, + "covertype_test_precision": { + "mean": 0.7532260179519653, + "std": 0.010424593161110017, + "n": 5, + "ci95": 0.012941766934831088 + }, + "covertype_test_recall": { + "mean": 0.7546250104904175, + "std": 0.009858380624236825, + "n": 5, + "ci95": 0.012238833921087267 + }, + "covertype_test_f1-score": { + "mean": 0.7521262764930725, + "std": 0.010204015571803768, + "n": 5, + "ci95": 0.012667927590913286 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7546250104904175, + "std": 0.009858380624236825, + "n": 5, + "ci95": 0.012238833921087267 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5070170223712921, + "std": 0.013413789248420835, + "n": 5, + "ci95": 0.016652749079324326 + }, + "covertype_test_accuracy": { + "mean": 0.7694000124931335, + "std": 0.007924650632227002, + "n": 5, + "ci95": 0.009838175930438243 + }, + "covertype_test_precision": { + "mean": 0.7682413578033447, + "std": 0.007920436331435195, + "n": 5, + "ci95": 0.00983294402375393 + }, + "covertype_test_recall": { + "mean": 0.7694000124931335, + "std": 0.007924650632227002, + "n": 5, + "ci95": 0.009838175930438243 + }, + "covertype_test_f1-score": { + "mean": 0.7681512713432312, + "std": 0.007886152989656961, + "n": 5, + "ci95": 0.009790382456872235 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7694000124931335, + "std": 0.007924650632227002, + "n": 5, + "ci95": 0.009838175930438243 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..98aa0ff2e209bfbd73085821b771b0c574bc0c1c --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpu1hbyqo3", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpu1hbyqo3/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6558718681335449, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7247247099876404, + "covertype_val_precision": 0.722467839717865, + "covertype_val_recall": 0.7247247099876404, + "covertype_val_f1-score": 0.708121120929718, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7247247099876404 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6544036269187927, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7149999737739563, + "covertype_test_precision": 0.7065433859825134, + "covertype_test_recall": 0.7149999737739563, + "covertype_test_f1-score": 0.700138509273529, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7149999737739563 + }, + "5": { + "covertype_test_loss": 0.6412585377693176, + "covertype_test_accuracy": 0.7221052646636963, + "covertype_test_precision": 0.7185115814208984, + "covertype_test_recall": 0.7221052646636963, + "covertype_test_f1-score": 0.7095065116882324, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7221052646636963 + }, + "10": { + "covertype_test_loss": 0.6465057134628296, + "covertype_test_accuracy": 0.7194444537162781, + "covertype_test_precision": 0.715928316116333, + "covertype_test_recall": 0.7194444537162781, + "covertype_test_f1-score": 0.7079078555107117, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7194444537162781 + }, + "20": { + "covertype_test_loss": 0.631826639175415, + "covertype_test_accuracy": 0.7206249833106995, + "covertype_test_precision": 0.7186242938041687, + "covertype_test_recall": 0.7206249833106995, + "covertype_test_f1-score": 0.7127163410186768, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7206249833106995 + }, + "50": { + "covertype_test_loss": 0.5858566164970398, + "covertype_test_accuracy": 0.7279999852180481, + "covertype_test_precision": 0.738945722579956, + "covertype_test_recall": 0.7279999852180481, + "covertype_test_f1-score": 0.7264278531074524, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7279999852180481 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.8750234842300415, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.5605605840682983, + "covertype_val_precision": 0.6889632940292358, + "covertype_val_recall": 0.5605605840682983, + "covertype_val_f1-score": 0.5352215766906738, + "covertype_val_support": 999.0, + "covertype_val_score": 0.5605605840682983 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.8467276692390442, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.5644999742507935, + "covertype_test_precision": 0.6787512302398682, + "covertype_test_recall": 0.5644999742507935, + "covertype_test_f1-score": 0.5281352400779724, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.5644999742507935 + }, + "5": { + "covertype_test_loss": 0.8421739339828491, + "covertype_test_accuracy": 0.5647368431091309, + "covertype_test_precision": 0.6836674809455872, + "covertype_test_recall": 0.5647368431091309, + "covertype_test_f1-score": 0.5276692509651184, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.5647368431091309 + }, + "10": { + "covertype_test_loss": 0.8440529108047485, + "covertype_test_accuracy": 0.5661110877990723, + "covertype_test_precision": 0.6814382076263428, + "covertype_test_recall": 0.5661110877990723, + "covertype_test_f1-score": 0.5260717272758484, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.5661110877990723 + }, + "20": { + "covertype_test_loss": 0.8266345858573914, + "covertype_test_accuracy": 0.5637500286102295, + "covertype_test_precision": 0.697071373462677, + "covertype_test_recall": 0.5637500286102295, + "covertype_test_f1-score": 0.5190744996070862, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.5637500286102295 + }, + "50": { + "covertype_test_loss": 0.7824338674545288, + "covertype_test_accuracy": 0.5640000104904175, + "covertype_test_precision": 0.7385604381561279, + "covertype_test_recall": 0.5640000104904175, + "covertype_test_f1-score": 0.5133703351020813, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.5640000104904175 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6209877133369446, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7277277112007141, + "covertype_val_precision": 0.7176324725151062, + "covertype_val_recall": 0.7277277112007141, + "covertype_val_f1-score": 0.7218961119651794, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7277277112007141 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6254803538322449, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7204999923706055, + "covertype_test_precision": 0.7079125046730042, + "covertype_test_recall": 0.7204999923706055, + "covertype_test_f1-score": 0.7126336097717285, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7204999923706055 + }, + "5": { + "covertype_test_loss": 0.6130023002624512, + "covertype_test_accuracy": 0.7284210324287415, + "covertype_test_precision": 0.7164605259895325, + "covertype_test_recall": 0.7284210324287415, + "covertype_test_f1-score": 0.7205731272697449, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7284210324287415 + }, + "10": { + "covertype_test_loss": 0.6191748976707458, + "covertype_test_accuracy": 0.7255555391311646, + "covertype_test_precision": 0.712365448474884, + "covertype_test_recall": 0.7255555391311646, + "covertype_test_f1-score": 0.7172278165817261, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7255555391311646 + }, + "20": { + "covertype_test_loss": 0.6069686412811279, + "covertype_test_accuracy": 0.7281249761581421, + "covertype_test_precision": 0.7180941700935364, + "covertype_test_recall": 0.7281249761581421, + "covertype_test_f1-score": 0.7213467359542847, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7281249761581421 + }, + "50": { + "covertype_test_loss": 0.5621961951255798, + "covertype_test_accuracy": 0.7350000143051147, + "covertype_test_precision": 0.7299880385398865, + "covertype_test_recall": 0.7350000143051147, + "covertype_test_f1-score": 0.7305891513824463, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7350000143051147 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6584267616271973, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7317317128181458, + "covertype_val_precision": 0.7257134318351746, + "covertype_val_recall": 0.7317317128181458, + "covertype_val_f1-score": 0.7221841216087341, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7317317128181458 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6641253232955933, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7110000252723694, + "covertype_test_precision": 0.7038394808769226, + "covertype_test_recall": 0.7110000252723694, + "covertype_test_f1-score": 0.7002649903297424, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7110000252723694 + }, + "5": { + "covertype_test_loss": 0.6528828740119934, + "covertype_test_accuracy": 0.714736819267273, + "covertype_test_precision": 0.7091569304466248, + "covertype_test_recall": 0.714736819267273, + "covertype_test_f1-score": 0.7057496905326843, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.714736819267273 + }, + "10": { + "covertype_test_loss": 0.6613229513168335, + "covertype_test_accuracy": 0.7105555534362793, + "covertype_test_precision": 0.7051624655723572, + "covertype_test_recall": 0.7105555534362793, + "covertype_test_f1-score": 0.7018496990203857, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7105555534362793 + }, + "20": { + "covertype_test_loss": 0.6464271545410156, + "covertype_test_accuracy": 0.7137500047683716, + "covertype_test_precision": 0.711018979549408, + "covertype_test_recall": 0.7137500047683716, + "covertype_test_f1-score": 0.7073342204093933, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7137500047683716 + }, + "50": { + "covertype_test_loss": 0.5931309461593628, + "covertype_test_accuracy": 0.7260000109672546, + "covertype_test_precision": 0.7231705784797668, + "covertype_test_recall": 0.7260000109672546, + "covertype_test_f1-score": 0.7186976075172424, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7260000109672546 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6413372159004211, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7307307124137878, + "covertype_val_precision": 0.7071869969367981, + "covertype_val_recall": 0.7307307124137878, + "covertype_val_f1-score": 0.713465690612793, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7307307124137878 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6409461498260498, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7204999923706055, + "covertype_test_precision": 0.7074525952339172, + "covertype_test_recall": 0.7204999923706055, + "covertype_test_f1-score": 0.705977201461792, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7204999923706055 + }, + "5": { + "covertype_test_loss": 0.6290370225906372, + "covertype_test_accuracy": 0.7263157963752747, + "covertype_test_precision": 0.7153151631355286, + "covertype_test_recall": 0.7263157963752747, + "covertype_test_f1-score": 0.7135040760040283, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7263157963752747 + }, + "10": { + "covertype_test_loss": 0.6347687244415283, + "covertype_test_accuracy": 0.721666693687439, + "covertype_test_precision": 0.7121027708053589, + "covertype_test_recall": 0.721666693687439, + "covertype_test_f1-score": 0.7093539834022522, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.721666693687439 + }, + "20": { + "covertype_test_loss": 0.6212723851203918, + "covertype_test_accuracy": 0.7237499952316284, + "covertype_test_precision": 0.718308687210083, + "covertype_test_recall": 0.7237499952316284, + "covertype_test_f1-score": 0.7130205035209656, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7237499952316284 + }, + "50": { + "covertype_test_loss": 0.585193395614624, + "covertype_test_accuracy": 0.7279999852180481, + "covertype_test_precision": 0.7300724983215332, + "covertype_test_recall": 0.7279999852180481, + "covertype_test_f1-score": 0.7201143503189087, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7279999852180481 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.686336624622345, + "std": 0.09083243685340323, + "n": 5, + "ci95": 0.11276528586889575 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.686299991607666, + "std": 0.06820613053803784, + "n": 5, + "ci95": 0.08467551983160174 + }, + "covertype_test_precision": { + "mean": 0.7008998394012451, + "std": 0.01248166736678491, + "n": 5, + "ci95": 0.015495552442433815 + }, + "covertype_test_recall": { + "mean": 0.686299991607666, + "std": 0.06820613053803784, + "n": 5, + "ci95": 0.08467551983160174 + }, + "covertype_test_f1-score": { + "mean": 0.6694299101829528, + "std": 0.07915217650800485, + "n": 5, + "ci95": 0.098264652147071 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.686299991607666, + "std": 0.06820613053803784, + "n": 5, + "ci95": 0.08467551983160174 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6756709337234497, + "std": 0.09424547342380755, + "n": 5, + "ci95": 0.1170024511137718 + }, + "covertype_test_accuracy": { + "mean": 0.6912631511688232, + "std": 0.07092346537948235, + "n": 5, + "ci95": 0.08804899577050605 + }, + "covertype_test_precision": { + "mean": 0.7086223363876343, + "std": 0.014379315998874483, + "n": 5, + "ci95": 0.01785141668971435 + }, + "covertype_test_recall": { + "mean": 0.6912631511688232, + "std": 0.07092346537948235, + "n": 5, + "ci95": 0.08804899577050605 + }, + "covertype_test_f1-score": { + "mean": 0.6754005312919616, + "std": 0.08276663594017578, + "n": 5, + "ci95": 0.10275187681316793 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6912631511688232, + "std": 0.07092346537948235, + "n": 5, + "ci95": 0.08804899577050605 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6811650395393372, + "std": 0.09236183153503909, + "n": 5, + "ci95": 0.11466397574726352 + }, + "covertype_test_accuracy": { + "mean": 0.6886666655540467, + "std": 0.06873146322160069, + "n": 5, + "ci95": 0.08532770194066314 + }, + "covertype_test_precision": { + "mean": 0.7053994417190552, + "std": 0.013950931545734305, + "n": 5, + "ci95": 0.017319592409825148 + }, + "covertype_test_recall": { + "mean": 0.6886666655540467, + "std": 0.06873146322160069, + "n": 5, + "ci95": 0.08532770194066314 + }, + "covertype_test_f1-score": { + "mean": 0.6724822163581848, + "std": 0.08202919023878881, + "n": 5, + "ci95": 0.10183636382892529 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6886666655540467, + "std": 0.06873146322160069, + "n": 5, + "ci95": 0.08532770194066314 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6666258811950684, + "std": 0.09060585970516366, + "n": 5, + "ci95": 0.11248399828290011 + }, + "covertype_test_accuracy": { + "mean": 0.6899999976158142, + "std": 0.07077002117844458, + "n": 5, + "ci95": 0.08785850017450135 + }, + "covertype_test_precision": { + "mean": 0.7126235008239746, + "std": 0.009256109291643886, + "n": 5, + "ci95": 0.011491135176638806 + }, + "covertype_test_recall": { + "mean": 0.6899999976158142, + "std": 0.07077002117844458, + "n": 5, + "ci95": 0.08785850017450135 + }, + "covertype_test_f1-score": { + "mean": 0.6746984601020813, + "std": 0.08714056152583977, + "n": 5, + "ci95": 0.10818195208278453 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6899999976158142, + "std": 0.07077002117844458, + "n": 5, + "ci95": 0.08785850017450135 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6217622041702271, + "std": 0.09056728263654182, + "n": 5, + "ci95": 0.11243610620467538 + }, + "covertype_test_accuracy": { + "mean": 0.6962000012397767, + "std": 0.07398107377869607, + "n": 5, + "ci95": 0.09184490940176687 + }, + "covertype_test_precision": { + "mean": 0.7321474552154541, + "std": 0.006650105859584085, + "n": 5, + "ci95": 0.008255873279329745 + }, + "covertype_test_recall": { + "mean": 0.6962000012397767, + "std": 0.07398107377869607, + "n": 5, + "ci95": 0.09184490940176687 + }, + "covertype_test_f1-score": { + "mean": 0.6818398594856262, + "std": 0.09430004443290092, + "n": 5, + "ci95": 0.1170701991083621 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6962000012397767, + "std": 0.07398107377869607, + "n": 5, + "ci95": 0.09184490940176687 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..d6b8ddf8166a21ff207280f7b657d58d418bfed9 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpr_4mf8h8", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpr_4mf8h8/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5840696692466736, + "lr": 0.0, + "covertype_val_accuracy": 0.7737737894058228, + "covertype_val_precision": 0.7710678577423096, + "covertype_val_recall": 0.7737737894058228, + "covertype_val_f1-score": 0.7710486054420471, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7737737894058228 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5528345704078674, + "lr": 0.0, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.7769097089767456, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.7757514119148254, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7760000228881836 + }, + "5": { + "covertype_test_loss": 0.5352873206138611, + "covertype_test_accuracy": 0.7815789580345154, + "covertype_test_precision": 0.7819728851318359, + "covertype_test_recall": 0.7815789580345154, + "covertype_test_f1-score": 0.7812539935112, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7815789580345154 + }, + "10": { + "covertype_test_loss": 0.5350906252861023, + "covertype_test_accuracy": 0.7827777862548828, + "covertype_test_precision": 0.7835847735404968, + "covertype_test_recall": 0.7827777862548828, + "covertype_test_f1-score": 0.7825987935066223, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7827777862548828 + }, + "20": { + "covertype_test_loss": 0.5122449398040771, + "covertype_test_accuracy": 0.7906249761581421, + "covertype_test_precision": 0.7917227149009705, + "covertype_test_recall": 0.7906249761581421, + "covertype_test_f1-score": 0.7908225655555725, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7906249761581421 + }, + "50": { + "covertype_test_loss": 0.46671876311302185, + "covertype_test_accuracy": 0.7960000038146973, + "covertype_test_precision": 0.7969529032707214, + "covertype_test_recall": 0.7960000038146973, + "covertype_test_f1-score": 0.7956681847572327, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7960000038146973 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6164122819900513, + "lr": 0.0, + "covertype_val_accuracy": 0.7627627849578857, + "covertype_val_precision": 0.7514853477478027, + "covertype_val_recall": 0.7627627849578857, + "covertype_val_f1-score": 0.7506809830665588, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7627627849578857 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5706948041915894, + "lr": 0.0, + "covertype_test_accuracy": 0.7804999947547913, + "covertype_test_precision": 0.7767069339752197, + "covertype_test_recall": 0.7804999947547913, + "covertype_test_f1-score": 0.7762120366096497, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7804999947547913 + }, + "5": { + "covertype_test_loss": 0.5517892241477966, + "covertype_test_accuracy": 0.785263180732727, + "covertype_test_precision": 0.7823801636695862, + "covertype_test_recall": 0.785263180732727, + "covertype_test_f1-score": 0.7817638516426086, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.785263180732727 + }, + "10": { + "covertype_test_loss": 0.556814432144165, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7811667919158936, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7814429998397827, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7850000262260437 + }, + "20": { + "covertype_test_loss": 0.5386810898780823, + "covertype_test_accuracy": 0.7862499952316284, + "covertype_test_precision": 0.7853577136993408, + "covertype_test_recall": 0.7862499952316284, + "covertype_test_f1-score": 0.784977376461029, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7862499952316284 + }, + "50": { + "covertype_test_loss": 0.4699081480503082, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.8052870631217957, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.8027430176734924, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6226710081100464, + "lr": 0.0, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.7498692870140076, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7464326024055481, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.569135308265686, + "lr": 0.0, + "covertype_test_accuracy": 0.762499988079071, + "covertype_test_precision": 0.7711423635482788, + "covertype_test_recall": 0.762499988079071, + "covertype_test_f1-score": 0.7633879780769348, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.762499988079071 + }, + "5": { + "covertype_test_loss": 0.5540334582328796, + "covertype_test_accuracy": 0.7663158178329468, + "covertype_test_precision": 0.7766536474227905, + "covertype_test_recall": 0.7663158178329468, + "covertype_test_f1-score": 0.7675175070762634, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7663158178329468 + }, + "10": { + "covertype_test_loss": 0.5490542054176331, + "covertype_test_accuracy": 0.7705555558204651, + "covertype_test_precision": 0.778476893901825, + "covertype_test_recall": 0.7705555558204651, + "covertype_test_f1-score": 0.7713383436203003, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7705555558204651 + }, + "20": { + "covertype_test_loss": 0.528296947479248, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7857807874679565, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7764754295349121, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7749999761581421 + }, + "50": { + "covertype_test_loss": 0.47511088848114014, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.8000316023826599, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7866738438606262, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7839999794960022 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5994595289230347, + "lr": 0.0, + "covertype_val_accuracy": 0.7637637853622437, + "covertype_val_precision": 0.752396285533905, + "covertype_val_recall": 0.7637637853622437, + "covertype_val_f1-score": 0.7554566860198975, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7637637853622437 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5908547639846802, + "lr": 0.0, + "covertype_test_accuracy": 0.7785000205039978, + "covertype_test_precision": 0.7780723571777344, + "covertype_test_recall": 0.7785000205039978, + "covertype_test_f1-score": 0.7769099473953247, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7785000205039978 + }, + "5": { + "covertype_test_loss": 0.5744643807411194, + "covertype_test_accuracy": 0.7831578850746155, + "covertype_test_precision": 0.7816334366798401, + "covertype_test_recall": 0.7831578850746155, + "covertype_test_f1-score": 0.7817068696022034, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7831578850746155 + }, + "10": { + "covertype_test_loss": 0.5795177817344666, + "covertype_test_accuracy": 0.7844444513320923, + "covertype_test_precision": 0.7834483981132507, + "covertype_test_recall": 0.7844444513320923, + "covertype_test_f1-score": 0.7832873463630676, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7844444513320923 + }, + "20": { + "covertype_test_loss": 0.5637099742889404, + "covertype_test_accuracy": 0.7868750095367432, + "covertype_test_precision": 0.7886818647384644, + "covertype_test_recall": 0.7868750095367432, + "covertype_test_f1-score": 0.7871395945549011, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7868750095367432 + }, + "50": { + "covertype_test_loss": 0.5030476450920105, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.80459064245224, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.8017639517784119, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.800000011920929 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5626583695411682, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7887887954711914, + "covertype_val_precision": 0.7831594347953796, + "covertype_val_recall": 0.7887887954711914, + "covertype_val_f1-score": 0.7846132516860962, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7887887954711914 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5613289475440979, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.781499981880188, + "covertype_test_precision": 0.7795113325119019, + "covertype_test_recall": 0.781499981880188, + "covertype_test_f1-score": 0.7781552076339722, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.781499981880188 + }, + "5": { + "covertype_test_loss": 0.5433703660964966, + "covertype_test_accuracy": 0.7873684167861938, + "covertype_test_precision": 0.7856055498123169, + "covertype_test_recall": 0.7873684167861938, + "covertype_test_f1-score": 0.7842705249786377, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7873684167861938 + }, + "10": { + "covertype_test_loss": 0.5431280136108398, + "covertype_test_accuracy": 0.7883333563804626, + "covertype_test_precision": 0.7859704494476318, + "covertype_test_recall": 0.7883333563804626, + "covertype_test_f1-score": 0.7852613925933838, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7883333563804626 + }, + "20": { + "covertype_test_loss": 0.5220386981964111, + "covertype_test_accuracy": 0.7931249737739563, + "covertype_test_precision": 0.792567253112793, + "covertype_test_recall": 0.7931249737739563, + "covertype_test_f1-score": 0.791858434677124, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7931249737739563 + }, + "50": { + "covertype_test_loss": 0.4618659019470215, + "covertype_test_accuracy": 0.8069999814033508, + "covertype_test_precision": 0.8086420297622681, + "covertype_test_recall": 0.8069999814033508, + "covertype_test_f1-score": 0.8057910799980164, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8069999814033508 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5689696788787841, + "std": 0.01414817074066559, + "n": 5, + "ci95": 0.01756445795534468 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7758000016212463, + "std": 0.007726580438722258, + "n": 5, + "ci95": 0.00959227872932365 + }, + "covertype_test_precision": { + "mean": 0.7764685392379761, + "std": 0.0031800327497689437, + "n": 5, + "ci95": 0.003947899170413041 + }, + "covertype_test_recall": { + "mean": 0.7758000016212463, + "std": 0.007726580438722258, + "n": 5, + "ci95": 0.00959227872932365 + }, + "covertype_test_f1-score": { + "mean": 0.7740833163261414, + "std": 0.006047197599454812, + "n": 5, + "ci95": 0.0075073838116749 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7758000016212463, + "std": 0.007726580438722258, + "n": 5, + "ci95": 0.00959227872932365 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5517889499664307, + "std": 0.014683232817705148, + "n": 5, + "ci95": 0.018228718765305657 + }, + "covertype_test_accuracy": { + "mean": 0.7807368516921998, + "std": 0.008351677578176465, + "n": 5, + "ci95": 0.010368314912742873 + }, + "covertype_test_precision": { + "mean": 0.781649136543274, + "std": 0.0032112138593544093, + "n": 5, + "ci95": 0.00398660942478824 + }, + "covertype_test_recall": { + "mean": 0.7807368516921998, + "std": 0.008351677578176465, + "n": 5, + "ci95": 0.010368314912742873 + }, + "covertype_test_f1-score": { + "mean": 0.7793025493621826, + "std": 0.006693558515571769, + "n": 5, + "ci95": 0.008309818228336475 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7807368516921998, + "std": 0.008351677578176465, + "n": 5, + "ci95": 0.010368314912742873 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5527210116386414, + "std": 0.016964113452868513, + "n": 5, + "ci95": 0.021060352108712856 + }, + "covertype_test_accuracy": { + "mean": 0.7822222352027893, + "std": 0.006826789405054287, + "n": 5, + "ci95": 0.00847521970670164 + }, + "covertype_test_precision": { + "mean": 0.7825294613838196, + "std": 0.002831903008180405, + "n": 5, + "ci95": 0.003515708301273923 + }, + "covertype_test_recall": { + "mean": 0.7822222352027893, + "std": 0.006826789405054287, + "n": 5, + "ci95": 0.00847521970670164 + }, + "covertype_test_f1-score": { + "mean": 0.7807857751846313, + "std": 0.005460356041418991, + "n": 5, + "ci95": 0.0067788405913883016 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7822222352027893, + "std": 0.006826789405054287, + "n": 5, + "ci95": 0.00847521970670164 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5329943299293518, + "std": 0.01967497462679697, + "n": 5, + "ci95": 0.024425791216355592 + }, + "covertype_test_accuracy": { + "mean": 0.7863749861717224, + "std": 0.006951281292407602, + "n": 5, + "ci95": 0.008629772020303133 + }, + "covertype_test_precision": { + "mean": 0.788822066783905, + "std": 0.0033057131954699177, + "n": 5, + "ci95": 0.004103927037533614 + }, + "covertype_test_recall": { + "mean": 0.7863749861717224, + "std": 0.006951281292407602, + "n": 5, + "ci95": 0.008629772020303133 + }, + "covertype_test_f1-score": { + "mean": 0.7862546801567077, + "std": 0.006130170525549483, + "n": 5, + "ci95": 0.00761039179048257 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7863749861717224, + "std": 0.006951281292407602, + "n": 5, + "ci95": 0.008629772020303133 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4753302693367004, + "std": 0.016226118409911602, + "n": 5, + "ci95": 0.020144157136170446 + }, + "covertype_test_accuracy": { + "mean": 0.7979999899864196, + "std": 0.008803408498551941, + "n": 5, + "ci95": 0.010929123013203423 + }, + "covertype_test_precision": { + "mean": 0.803100848197937, + "std": 0.004607635305799778, + "n": 5, + "ci95": 0.005720217693561324 + }, + "covertype_test_recall": { + "mean": 0.7979999899864196, + "std": 0.008803408498551941, + "n": 5, + "ci95": 0.010929123013203423 + }, + "covertype_test_f1-score": { + "mean": 0.7985280156135559, + "std": 0.007577757748104717, + "n": 5, + "ci95": 0.009407520576480628 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7979999899864196, + "std": 0.008803408498551941, + "n": 5, + "ci95": 0.010929123013203423 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/xgboost_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/xgboost_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..a124f95cf1c18e9c4a468f081e7a5ee6ccd2f810 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/downstream_results/xgboost_covertype_downstream_results.json @@ -0,0 +1,313 @@ +{ + "dataset": "covertype", + "model": "xgboost", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp40okrnnp", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "xgboost", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 1, + "split_config_file": "/tmp/tmp40okrnnp/split_data/split_config.json", + "sigma_aggregation": "mean", + "n_estimators": 100, + "max_depth": 3, + "learning_rate": 0.1, + "subsample": 1.0, + "colsample_bytree": 1.0, + "reg_alpha": 0.0, + "reg_lambda": 1.0, + "n_jobs": -1, + "random_state": 42, + "encoder_type": "linear_flatten", + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.67635178565979, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.768599271774292, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7660241723060608, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6071905493736267, + "covertype_test_accuracy": 0.796500027179718, + "covertype_test_precision": 0.7983784675598145, + "covertype_test_recall": 0.796500027179718, + "covertype_test_f1-score": 0.7943921089172363, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.796500027179718 + }, + "5": { + "covertype_test_loss": 0.5914555788040161, + "covertype_test_accuracy": 0.8005263209342957, + "covertype_test_precision": 0.8007017374038696, + "covertype_test_recall": 0.8005263209342957, + "covertype_test_f1-score": 0.798233687877655, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.8005263209342957 + }, + "10": { + "covertype_test_loss": 0.5872582793235779, + "covertype_test_accuracy": 0.801111102104187, + "covertype_test_precision": 0.8016587495803833, + "covertype_test_recall": 0.801111102104187, + "covertype_test_f1-score": 0.7989819645881653, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.801111102104187 + }, + "20": { + "covertype_test_loss": 0.5571532845497131, + "covertype_test_accuracy": 0.8037499785423279, + "covertype_test_precision": 0.8046908378601074, + "covertype_test_recall": 0.8037499785423279, + "covertype_test_f1-score": 0.8025675415992737, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8037499785423279 + }, + "50": { + "covertype_test_loss": 0.4816114902496338, + "covertype_test_accuracy": 0.8090000152587891, + "covertype_test_precision": 0.8087010979652405, + "covertype_test_recall": 0.8090000152587891, + "covertype_test_f1-score": 0.8083051443099976, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8090000152587891 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6071905493736267, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_accuracy": { + "mean": 0.796500027179718, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_precision": { + "mean": 0.7983784675598145, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_recall": { + "mean": 0.796500027179718, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_f1-score": { + "mean": 0.7943921089172363, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_score": { + "mean": 0.796500027179718, + "std": 0.0, + "n": 1, + "ci95": null + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5914555788040161, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_accuracy": { + "mean": 0.8005263209342957, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_precision": { + "mean": 0.8007017374038696, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_recall": { + "mean": 0.8005263209342957, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_f1-score": { + "mean": 0.798233687877655, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_score": { + "mean": 0.8005263209342957, + "std": 0.0, + "n": 1, + "ci95": null + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5872582793235779, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_accuracy": { + "mean": 0.801111102104187, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_precision": { + "mean": 0.8016587495803833, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_recall": { + "mean": 0.801111102104187, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_f1-score": { + "mean": 0.7989819645881653, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_score": { + "mean": 0.801111102104187, + "std": 0.0, + "n": 1, + "ci95": null + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5571532845497131, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_accuracy": { + "mean": 0.8037499785423279, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_precision": { + "mean": 0.8046908378601074, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_recall": { + "mean": 0.8037499785423279, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_f1-score": { + "mean": 0.8025675415992737, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_score": { + "mean": 0.8037499785423279, + "std": 0.0, + "n": 1, + "ci95": null + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4816114902496338, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_accuracy": { + "mean": 0.8090000152587891, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_precision": { + "mean": 0.8087010979652405, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_recall": { + "mean": 0.8090000152587891, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_f1-score": { + "mean": 0.8083051443099976, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 1, + "ci95": null + }, + "covertype_test_score": { + "mean": 0.8090000152587891, + "std": 0.0, + "n": 1, + "ci95": null + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..14183eda7d7de20a99ce31133441e7e5ea03aae1 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:7946059c1f8a7861c61a6d6df2cc4346349c3a4a41849abfb49b689bec95887f +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..33cef5f93b5603ed31c0bfc77ad97e9f3c1fe3d6 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:275ace65e0bf74bf9e09ec0d61df1e4fca475be7253f6e6885cd0031959ae671 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..be22901932a03ba5abae5c8b42e876a6310179fa --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:eb9faafdb35ac8c0ccf6c4adfaa89f413d5b83e930331ca8684f680410856881 +size 11493456 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..58e72287790a30df445afc4c72727c5f37e20724 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue6-gpu3-kl3e-6/pretrain/wjepa_joint/covertype/20260917_164715/vtjepa_config.yaml @@ -0,0 +1,130 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 3.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..283b70b151aef862787e9ca94ab1ffd7485b8e50 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/paper_alignment_manifest.json @@ -0,0 +1,247 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "2f44128407503aee95afb939be1faeed557de3124783e7d116a50f53eaf20dc2", + "src/train_vtjepa.py": "60011dfabb086ae93bb0bb56db2057ca9c1009f2d7fb1a13fcbddb212fbbb1f5", + "src/vtjepa.py": "e1fb426b1a3c5b791bc2d258e1863928c0e505ccf36637c0e5691751ed46f776", + "src/d_jepa.py": "f0d9b1f435f6d76aebd72f06e48fa255fa37b7c1ebb3906a78502c5e08774866", + "src/jepa_model.py": "69f08f390513d6f90566dcb6ea79743143bdaa46020493582f47b4d5cb278927", + "src/vtjepa_configs.py": "4deb20016ca09ec340f89aa2d63521c81d4f894ca2317e43d5c4eb41b014bcb3", + "src/downstream_pipeline.py": "13e4032713b8fddde763d5310cef40aaf98aeb2dde43d5b2a234cb2f4a60edc5", + "src/sliced_wasserstein.py": "2577a99ea0e5c7c2239cd1670ca9d1833f0fd87b9c11754264afd07a33b13053" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "latent_architecture": "stochastic", + "model_selection": "filtered_20", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "predictive_kl": { + "enabled": true, + "direction": "q_target_posterior_to_p_predictor", + "start_weight": 0.0, + "end_weight": 1e-05, + "start_epoch": 1, + "annealing_epochs": 20 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0.0", + "--vtjepa_kl_y_end_weight", + "1e-05", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--latent_architecture", + "stochastic", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..11267543e627df308cc2b6c7148dcbb5502e08c2 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmplgoev_ff", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmplgoev_ff/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6005834937095642, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7487747669219971, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7483572959899902, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5824733972549438, + "lr": 0.0, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.7479375600814819, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.7472272515296936, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.75 + }, + "5": { + "covertype_test_loss": 0.5620374083518982, + "covertype_test_accuracy": 0.7568420767784119, + "covertype_test_precision": 0.7535724639892578, + "covertype_test_recall": 0.7568420767784119, + "covertype_test_f1-score": 0.7537902593612671, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7568420767784119 + }, + "10": { + "covertype_test_loss": 0.5445888042449951, + "covertype_test_accuracy": 0.7616666555404663, + "covertype_test_precision": 0.7593186497688293, + "covertype_test_recall": 0.7616666555404663, + "covertype_test_f1-score": 0.759354293346405, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7616666555404663 + }, + "20": { + "covertype_test_loss": 0.5284329056739807, + "covertype_test_accuracy": 0.7643749713897705, + "covertype_test_precision": 0.7653523683547974, + "covertype_test_recall": 0.7643749713897705, + "covertype_test_f1-score": 0.7637290358543396, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7643749713897705 + }, + "50": { + "covertype_test_loss": 0.49993664026260376, + "covertype_test_accuracy": 0.7680000066757202, + "covertype_test_precision": 0.768813967704773, + "covertype_test_recall": 0.7680000066757202, + "covertype_test_f1-score": 0.7677227258682251, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7680000066757202 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6191160082817078, + "lr": 0.0, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.7425774931907654, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7428719997406006, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6000282168388367, + "lr": 0.0, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7549397945404053, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7521833181381226, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7549999952316284 + }, + "5": { + "covertype_test_loss": 0.5736976861953735, + "covertype_test_accuracy": 0.7631579041481018, + "covertype_test_precision": 0.7626086473464966, + "covertype_test_recall": 0.7631579041481018, + "covertype_test_f1-score": 0.7609022855758667, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7631579041481018 + }, + "10": { + "covertype_test_loss": 0.5474761724472046, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7695111632347107, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7684644460678101, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7699999809265137 + }, + "20": { + "covertype_test_loss": 0.5288001894950867, + "covertype_test_accuracy": 0.7768750190734863, + "covertype_test_precision": 0.777005672454834, + "covertype_test_recall": 0.7768750190734863, + "covertype_test_f1-score": 0.7761160135269165, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7768750190734863 + }, + "50": { + "covertype_test_loss": 0.5003451108932495, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.7845141291618347, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7831717729568481, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7839999794960022 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6015677452087402, + "lr": 0.0, + "covertype_val_accuracy": 0.7557557821273804, + "covertype_val_precision": 0.7532816529273987, + "covertype_val_recall": 0.7557557821273804, + "covertype_val_f1-score": 0.7516698241233826, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7557557821273804 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5859744548797607, + "lr": 0.0, + "covertype_test_accuracy": 0.7595000267028809, + "covertype_test_precision": 0.7617802619934082, + "covertype_test_recall": 0.7595000267028809, + "covertype_test_f1-score": 0.7586308717727661, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7595000267028809 + }, + "5": { + "covertype_test_loss": 0.5647866725921631, + "covertype_test_accuracy": 0.7678947448730469, + "covertype_test_precision": 0.7690982818603516, + "covertype_test_recall": 0.7678947448730469, + "covertype_test_f1-score": 0.7666996121406555, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7678947448730469 + }, + "10": { + "covertype_test_loss": 0.5457834601402283, + "covertype_test_accuracy": 0.7716666460037231, + "covertype_test_precision": 0.7732726335525513, + "covertype_test_recall": 0.7716666460037231, + "covertype_test_f1-score": 0.7708223462104797, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7716666460037231 + }, + "20": { + "covertype_test_loss": 0.5369670391082764, + "covertype_test_accuracy": 0.7743750214576721, + "covertype_test_precision": 0.7772508263587952, + "covertype_test_recall": 0.7743750214576721, + "covertype_test_f1-score": 0.7739666700363159, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7743750214576721 + }, + "50": { + "covertype_test_loss": 0.49583742022514343, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.7804131507873535, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.7756950855255127, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7760000228881836 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6013666391372681, + "lr": 0.0, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7454917430877686, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.74530029296875, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5808985233306885, + "lr": 0.0, + "covertype_test_accuracy": 0.7509999871253967, + "covertype_test_precision": 0.7515121698379517, + "covertype_test_recall": 0.7509999871253967, + "covertype_test_f1-score": 0.7487419247627258, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7509999871253967 + }, + "5": { + "covertype_test_loss": 0.5596274733543396, + "covertype_test_accuracy": 0.7615789771080017, + "covertype_test_precision": 0.7607795000076294, + "covertype_test_recall": 0.7615789771080017, + "covertype_test_f1-score": 0.7592626810073853, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7615789771080017 + }, + "10": { + "covertype_test_loss": 0.541355311870575, + "covertype_test_accuracy": 0.7666666507720947, + "covertype_test_precision": 0.7665143013000488, + "covertype_test_recall": 0.7666666507720947, + "covertype_test_f1-score": 0.7649156451225281, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7666666507720947 + }, + "20": { + "covertype_test_loss": 0.5208419561386108, + "covertype_test_accuracy": 0.7693750262260437, + "covertype_test_precision": 0.7695541977882385, + "covertype_test_recall": 0.7693750262260437, + "covertype_test_f1-score": 0.768112301826477, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7693750262260437 + }, + "50": { + "covertype_test_loss": 0.49712902307510376, + "covertype_test_accuracy": 0.7680000066757202, + "covertype_test_precision": 0.767935574054718, + "covertype_test_recall": 0.7680000066757202, + "covertype_test_f1-score": 0.7670762538909912, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7680000066757202 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5895121693611145, + "lr": 0.0, + "covertype_val_accuracy": 0.7557557821273804, + "covertype_val_precision": 0.7564280033111572, + "covertype_val_recall": 0.7557557821273804, + "covertype_val_f1-score": 0.7522748708724976, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7557557821273804 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5834830403327942, + "lr": 0.0, + "covertype_test_accuracy": 0.7534999847412109, + "covertype_test_precision": 0.7542216181755066, + "covertype_test_recall": 0.7534999847412109, + "covertype_test_f1-score": 0.7515909075737, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7534999847412109 + }, + "5": { + "covertype_test_loss": 0.5602614283561707, + "covertype_test_accuracy": 0.7631579041481018, + "covertype_test_precision": 0.7629028558731079, + "covertype_test_recall": 0.7631579041481018, + "covertype_test_f1-score": 0.7610947489738464, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7631579041481018 + }, + "10": { + "covertype_test_loss": 0.5452077984809875, + "covertype_test_accuracy": 0.7672222256660461, + "covertype_test_precision": 0.7672803997993469, + "covertype_test_recall": 0.7672222256660461, + "covertype_test_f1-score": 0.7656837105751038, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7672222256660461 + }, + "20": { + "covertype_test_loss": 0.5302315950393677, + "covertype_test_accuracy": 0.7724999785423279, + "covertype_test_precision": 0.7738515138626099, + "covertype_test_recall": 0.7724999785423279, + "covertype_test_f1-score": 0.7717142105102539, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7724999785423279 + }, + "50": { + "covertype_test_loss": 0.4976157248020172, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.7850567698478699, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7835642099380493, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7839999794960022 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5865715265274047, + "std": 0.007745246678903456, + "n": 5, + "ci95": 0.009615452212090906 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7537999987602234, + "std": 0.0037516787649973593, + "n": 5, + "ci95": 0.0046575776570431425 + }, + "covertype_test_precision": { + "mean": 0.7540782809257507, + "std": 0.005108244371702461, + "n": 5, + "ci95": 0.006341706298080271 + }, + "covertype_test_recall": { + "mean": 0.7537999987602234, + "std": 0.0037516787649973593, + "n": 5, + "ci95": 0.0046575776570431425 + }, + "covertype_test_f1-score": { + "mean": 0.7516748547554016, + "std": 0.004388479454264702, + "n": 5, + "ci95": 0.005448143387241883 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7537999987602234, + "std": 0.0037516787649973593, + "n": 5, + "ci95": 0.0046575776570431425 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5640821337699891, + "std": 0.005735370840464242, + "n": 5, + "ci95": 0.0071202618226888096 + }, + "covertype_test_accuracy": { + "mean": 0.7625263214111329, + "std": 0.003963138347540864, + "n": 5, + "ci95": 0.004920097315232212 + }, + "covertype_test_precision": { + "mean": 0.7617923498153687, + "std": 0.005564813477036868, + "n": 5, + "ci95": 0.00690852083554593 + }, + "covertype_test_recall": { + "mean": 0.7625263214111329, + "std": 0.003963138347540864, + "n": 5, + "ci95": 0.004920097315232212 + }, + "covertype_test_f1-score": { + "mean": 0.7603499174118042, + "std": 0.004620327491995465, + "n": 5, + "ci95": 0.005735974597749283 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7625263214111329, + "std": 0.003963138347540864, + "n": 5, + "ci95": 0.004920097315232212 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.544882309436798, + "std": 0.002245662383056188, + "n": 5, + "ci95": 0.0027879111181290392 + }, + "covertype_test_accuracy": { + "mean": 0.7674444317817688, + "std": 0.003820829148192624, + "n": 5, + "ci95": 0.00474342543344424 + }, + "covertype_test_precision": { + "mean": 0.7671794295310974, + "std": 0.005118802749210965, + "n": 5, + "ci95": 0.006354814153592061 + }, + "covertype_test_recall": { + "mean": 0.7674444317817688, + "std": 0.003820829148192624, + "n": 5, + "ci95": 0.00474342543344424 + }, + "covertype_test_f1-score": { + "mean": 0.7658480882644654, + "std": 0.004320139261185389, + "n": 5, + "ci95": 0.005363301433465372 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7674444317817688, + "std": 0.003820829148192624, + "n": 5, + "ci95": 0.00474342543344424 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5290547370910644, + "std": 0.005742185072011688, + "n": 5, + "ci95": 0.007128721452255555 + }, + "covertype_test_accuracy": { + "mean": 0.7715000033378601, + "std": 0.004833168777936177, + "n": 5, + "ci95": 0.006000209592264995 + }, + "covertype_test_precision": { + "mean": 0.772602915763855, + "std": 0.005109096192492634, + "n": 5, + "ci95": 0.006342763803727378 + }, + "covertype_test_recall": { + "mean": 0.7715000033378601, + "std": 0.004833168777936177, + "n": 5, + "ci95": 0.006000209592264995 + }, + "covertype_test_f1-score": { + "mean": 0.7707276463508606, + "std": 0.004907128996744776, + "n": 5, + "ci95": 0.006092028610952539 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7715000033378601, + "std": 0.004833168777936177, + "n": 5, + "ci95": 0.006000209592264995 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.49817278385162356, + "std": 0.0019159768282504925, + "n": 5, + "ci95": 0.0023786180602480664 + }, + "covertype_test_accuracy": { + "mean": 0.7759999990463257, + "std": 0.007999986410152093, + "n": 5, + "ci95": 0.009931702657543335 + }, + "covertype_test_precision": { + "mean": 0.7773467183113099, + "std": 0.008390428330224057, + "n": 5, + "ci95": 0.010416422612851521 + }, + "covertype_test_recall": { + "mean": 0.7759999990463257, + "std": 0.007999986410152093, + "n": 5, + "ci95": 0.009931702657543335 + }, + "covertype_test_f1-score": { + "mean": 0.7754460096359252, + "std": 0.007989939881209614, + "n": 5, + "ci95": 0.00991923024408142 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7759999990463257, + "std": 0.007999986410152093, + "n": 5, + "ci95": 0.009931702657543335 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..291d0411d544c1ef4c5ae3ca94c6ac8301493fa2 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp_rcz5p2e", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp_rcz5p2e/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.550362765789032, + "lr": 0.0, + "covertype_val_accuracy": 0.7677677869796753, + "covertype_val_precision": 0.7577949166297913, + "covertype_val_recall": 0.7677677869796753, + "covertype_val_f1-score": 0.7582781910896301, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7677677869796753 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5692434906959534, + "lr": 0.0, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7706103324890137, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7646961212158203, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7699999809265137 + }, + "5": { + "covertype_test_loss": 0.5458340644836426, + "covertype_test_accuracy": 0.780526340007782, + "covertype_test_precision": 0.7808786034584045, + "covertype_test_recall": 0.780526340007782, + "covertype_test_f1-score": 0.7769595384597778, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.780526340007782 + }, + "10": { + "covertype_test_loss": 0.5277382731437683, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7846347689628601, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7826339602470398, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7850000262260437 + }, + "20": { + "covertype_test_loss": 0.5075891017913818, + "covertype_test_accuracy": 0.793749988079071, + "covertype_test_precision": 0.7942481637001038, + "covertype_test_recall": 0.793749988079071, + "covertype_test_f1-score": 0.7924082279205322, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.793749988079071 + }, + "50": { + "covertype_test_loss": 0.48898789286613464, + "covertype_test_accuracy": 0.7979999780654907, + "covertype_test_precision": 0.8008244037628174, + "covertype_test_recall": 0.7979999780654907, + "covertype_test_f1-score": 0.7975093126296997, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7979999780654907 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5526973605155945, + "lr": 0.0, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7645893692970276, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7645440101623535, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5500460863113403, + "lr": 0.0, + "covertype_test_accuracy": 0.7720000147819519, + "covertype_test_precision": 0.7705385088920593, + "covertype_test_recall": 0.7720000147819519, + "covertype_test_f1-score": 0.7692530751228333, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7720000147819519 + }, + "5": { + "covertype_test_loss": 0.5297859907150269, + "covertype_test_accuracy": 0.7826315760612488, + "covertype_test_precision": 0.780555784702301, + "covertype_test_recall": 0.7826315760612488, + "covertype_test_f1-score": 0.7805856466293335, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7826315760612488 + }, + "10": { + "covertype_test_loss": 0.5125399231910706, + "covertype_test_accuracy": 0.7866666913032532, + "covertype_test_precision": 0.7856038212776184, + "covertype_test_recall": 0.7866666913032532, + "covertype_test_f1-score": 0.785461962223053, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7866666913032532 + }, + "20": { + "covertype_test_loss": 0.49705272912979126, + "covertype_test_accuracy": 0.7943750023841858, + "covertype_test_precision": 0.795591413974762, + "covertype_test_recall": 0.7943750023841858, + "covertype_test_f1-score": 0.7940349578857422, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7943750023841858 + }, + "50": { + "covertype_test_loss": 0.48363035917282104, + "covertype_test_accuracy": 0.7979999780654907, + "covertype_test_precision": 0.7996004223823547, + "covertype_test_recall": 0.7979999780654907, + "covertype_test_f1-score": 0.7973591685295105, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7979999780654907 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.546960175037384, + "lr": 0.0, + "covertype_val_accuracy": 0.7687687873840332, + "covertype_val_precision": 0.7677750587463379, + "covertype_val_recall": 0.7687687873840332, + "covertype_val_f1-score": 0.7645565867424011, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7687687873840332 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5524904131889343, + "lr": 0.0, + "covertype_test_accuracy": 0.7774999737739563, + "covertype_test_precision": 0.7778117060661316, + "covertype_test_recall": 0.7774999737739563, + "covertype_test_f1-score": 0.7757645845413208, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7774999737739563 + }, + "5": { + "covertype_test_loss": 0.529750406742096, + "covertype_test_accuracy": 0.788947343826294, + "covertype_test_precision": 0.7883397936820984, + "covertype_test_recall": 0.788947343826294, + "covertype_test_f1-score": 0.7868795394897461, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.788947343826294 + }, + "10": { + "covertype_test_loss": 0.5096020102500916, + "covertype_test_accuracy": 0.7938888669013977, + "covertype_test_precision": 0.7941277027130127, + "covertype_test_recall": 0.7938888669013977, + "covertype_test_f1-score": 0.7927616834640503, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7938888669013977 + }, + "20": { + "covertype_test_loss": 0.4947437644004822, + "covertype_test_accuracy": 0.8018749952316284, + "covertype_test_precision": 0.8036512136459351, + "covertype_test_recall": 0.8018749952316284, + "covertype_test_f1-score": 0.801789402961731, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8018749952316284 + }, + "50": { + "covertype_test_loss": 0.4769415557384491, + "covertype_test_accuracy": 0.8059999942779541, + "covertype_test_precision": 0.8081710934638977, + "covertype_test_recall": 0.8059999942779541, + "covertype_test_f1-score": 0.8054146766662598, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8059999942779541 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5509337186813354, + "lr": 0.0, + "covertype_val_accuracy": 0.7697697877883911, + "covertype_val_precision": 0.761908769607544, + "covertype_val_recall": 0.7697697877883911, + "covertype_val_f1-score": 0.7574036121368408, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7697697877883911 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5477402210235596, + "lr": 0.0, + "covertype_test_accuracy": 0.7680000066757202, + "covertype_test_precision": 0.768922746181488, + "covertype_test_recall": 0.7680000066757202, + "covertype_test_f1-score": 0.7613455653190613, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7680000066757202 + }, + "5": { + "covertype_test_loss": 0.5256549119949341, + "covertype_test_accuracy": 0.7789473533630371, + "covertype_test_precision": 0.7793751358985901, + "covertype_test_recall": 0.7789473533630371, + "covertype_test_f1-score": 0.7748243808746338, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7789473533630371 + }, + "10": { + "covertype_test_loss": 0.506870448589325, + "covertype_test_accuracy": 0.7844444513320923, + "covertype_test_precision": 0.7850064635276794, + "covertype_test_recall": 0.7844444513320923, + "covertype_test_f1-score": 0.7816929221153259, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7844444513320923 + }, + "20": { + "covertype_test_loss": 0.4884204864501953, + "covertype_test_accuracy": 0.7887499928474426, + "covertype_test_precision": 0.7890282869338989, + "covertype_test_recall": 0.7887499928474426, + "covertype_test_f1-score": 0.7871730327606201, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7887499928474426 + }, + "50": { + "covertype_test_loss": 0.46224573254585266, + "covertype_test_accuracy": 0.7960000038146973, + "covertype_test_precision": 0.7952083349227905, + "covertype_test_recall": 0.7960000038146973, + "covertype_test_f1-score": 0.7948376536369324, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7960000038146973 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5587471127510071, + "lr": 0.0, + "covertype_val_accuracy": 0.7667667865753174, + "covertype_val_precision": 0.7646804451942444, + "covertype_val_recall": 0.7667667865753174, + "covertype_val_f1-score": 0.7525497078895569, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7667667865753174 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5501092076301575, + "lr": 0.0, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7875226736068726, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7739083766937256, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7820000052452087 + }, + "5": { + "covertype_test_loss": 0.5260484218597412, + "covertype_test_accuracy": 0.793684184551239, + "covertype_test_precision": 0.7954543828964233, + "covertype_test_recall": 0.793684184551239, + "covertype_test_f1-score": 0.7891462445259094, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.793684184551239 + }, + "10": { + "covertype_test_loss": 0.5040156245231628, + "covertype_test_accuracy": 0.801111102104187, + "covertype_test_precision": 0.8004675507545471, + "covertype_test_recall": 0.801111102104187, + "covertype_test_f1-score": 0.7985364198684692, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.801111102104187 + }, + "20": { + "covertype_test_loss": 0.4804783761501312, + "covertype_test_accuracy": 0.8081250190734863, + "covertype_test_precision": 0.8076832294464111, + "covertype_test_recall": 0.8081250190734863, + "covertype_test_f1-score": 0.806442379951477, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8081250190734863 + }, + "50": { + "covertype_test_loss": 0.4598957896232605, + "covertype_test_accuracy": 0.8109999895095825, + "covertype_test_precision": 0.8117850422859192, + "covertype_test_recall": 0.8109999895095825, + "covertype_test_f1-score": 0.8101010918617249, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8109999895095825 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.553925883769989, + "std": 0.00872599459111232, + "n": 5, + "ci95": 0.010833016361162962 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7738999962806702, + "std": 0.005748910983273649, + "n": 5, + "ci95": 0.007137071435284282 + }, + "covertype_test_precision": { + "mean": 0.775081193447113, + "std": 0.007758820482605171, + "n": 5, + "ci95": 0.009632303613504065 + }, + "covertype_test_recall": { + "mean": 0.7738999962806702, + "std": 0.005748910983273649, + "n": 5, + "ci95": 0.007137071435284282 + }, + "covertype_test_f1-score": { + "mean": 0.7689935445785523, + "std": 0.006062782927693376, + "n": 5, + "ci95": 0.0075267324502787366 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7738999962806702, + "std": 0.005748910983273649, + "n": 5, + "ci95": 0.007137071435284282 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5314147591590881, + "std": 0.008296275324201475, + "n": 5, + "ci95": 0.010299534956774568 + }, + "covertype_test_accuracy": { + "mean": 0.7849473595619202, + "std": 0.0061895138443159095, + "n": 5, + "ci95": 0.007684064440220077 + }, + "covertype_test_precision": { + "mean": 0.7849207401275635, + "std": 0.006870098037361374, + "n": 5, + "ci95": 0.008528985855358221 + }, + "covertype_test_recall": { + "mean": 0.7849473595619202, + "std": 0.0061895138443159095, + "n": 5, + "ci95": 0.007684064440220077 + }, + "covertype_test_f1-score": { + "mean": 0.7816790699958801, + "std": 0.006189909004707903, + "n": 5, + "ci95": 0.007684555017992852 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7849473595619202, + "std": 0.0061895138443159095, + "n": 5, + "ci95": 0.007684064440220077 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5121532559394837, + "std": 0.00926930722810128, + "n": 5, + "ci95": 0.01150751995204563 + }, + "covertype_test_accuracy": { + "mean": 0.7902222275733948, + "std": 0.00716428216718397, + "n": 5, + "ci95": 0.008894205138763303 + }, + "covertype_test_precision": { + "mean": 0.7899680614471436, + "std": 0.00706487696410286, + "n": 5, + "ci95": 0.008770797064174397 + }, + "covertype_test_recall": { + "mean": 0.7902222275733948, + "std": 0.00716428216718397, + "n": 5, + "ci95": 0.008894205138763303 + }, + "covertype_test_f1-score": { + "mean": 0.7882173895835877, + "std": 0.007219223153015244, + "n": 5, + "ci95": 0.008962412446502735 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7902222275733948, + "std": 0.00716428216718397, + "n": 5, + "ci95": 0.008894205138763303 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.49365689158439635, + "std": 0.010098424310076074, + "n": 5, + "ci95": 0.012536839741391009 + }, + "covertype_test_accuracy": { + "mean": 0.7973749995231628, + "std": 0.007621422319167712, + "n": 5, + "ci95": 0.00946172861062385 + }, + "covertype_test_precision": { + "mean": 0.7980404615402221, + "std": 0.007517681825291962, + "n": 5, + "ci95": 0.00933293842450389 + }, + "covertype_test_recall": { + "mean": 0.7973749995231628, + "std": 0.007621422319167712, + "n": 5, + "ci95": 0.00946172861062385 + }, + "covertype_test_f1-score": { + "mean": 0.7963696002960206, + "std": 0.0076901728140034925, + "n": 5, + "ci95": 0.00954707993964629 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7973749995231628, + "std": 0.007621422319167712, + "n": 5, + "ci95": 0.00946172861062385 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.47434026598930357, + "std": 0.012869985912426642, + "n": 5, + "ci95": 0.01597763630283003 + }, + "covertype_test_accuracy": { + "mean": 0.801799988746643, + "std": 0.00641872355039676, + "n": 5, + "ci95": 0.007968620254481095 + }, + "covertype_test_precision": { + "mean": 0.803117859363556, + "std": 0.00672398901454539, + "n": 5, + "ci95": 0.008347596625952646 + }, + "covertype_test_recall": { + "mean": 0.801799988746643, + "std": 0.00641872355039676, + "n": 5, + "ci95": 0.007968620254481095 + }, + "covertype_test_f1-score": { + "mean": 0.8010443806648254, + "std": 0.0064367006248973275, + "n": 5, + "ci95": 0.007990938162217236 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.801799988746643, + "std": 0.00641872355039676, + "n": 5, + "ci95": 0.007968620254481095 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..ed8c89f704aa5f36f9bd1c0abdd57f3a0d02e83e --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp09uk87lb", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp09uk87lb/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6111931204795837, + "lr": 0.0, + "covertype_val_accuracy": 0.7377377152442932, + "covertype_val_precision": 0.7327452301979065, + "covertype_val_recall": 0.7377377152442932, + "covertype_val_f1-score": 0.7281290292739868, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7377377152442932 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.607133686542511, + "lr": 0.0, + "covertype_test_accuracy": 0.7304999828338623, + "covertype_test_precision": 0.7306186556816101, + "covertype_test_recall": 0.7304999828338623, + "covertype_test_f1-score": 0.7239475250244141, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7304999828338623 + }, + "5": { + "covertype_test_loss": 0.5864678621292114, + "covertype_test_accuracy": 0.7384210228919983, + "covertype_test_precision": 0.737808883190155, + "covertype_test_recall": 0.7384210228919983, + "covertype_test_f1-score": 0.7323353886604309, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7384210228919983 + }, + "10": { + "covertype_test_loss": 0.5651049017906189, + "covertype_test_accuracy": 0.745555579662323, + "covertype_test_precision": 0.7418692708015442, + "covertype_test_recall": 0.745555579662323, + "covertype_test_f1-score": 0.7401389479637146, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.745555579662323 + }, + "20": { + "covertype_test_loss": 0.5456802248954773, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.7498586773872375, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.7477099895477295, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.75 + }, + "50": { + "covertype_test_loss": 0.5178478956222534, + "covertype_test_accuracy": 0.753000020980835, + "covertype_test_precision": 0.7521710395812988, + "covertype_test_recall": 0.753000020980835, + "covertype_test_f1-score": 0.7521774768829346, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.753000020980835 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6171271800994873, + "lr": 0.0, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.7286803722381592, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.7304468750953674, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6176497340202332, + "lr": 0.0, + "covertype_test_accuracy": 0.7285000085830688, + "covertype_test_precision": 0.7187601923942566, + "covertype_test_recall": 0.7285000085830688, + "covertype_test_f1-score": 0.7213782072067261, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7285000085830688 + }, + "5": { + "covertype_test_loss": 0.5975614786148071, + "covertype_test_accuracy": 0.7357894778251648, + "covertype_test_precision": 0.7246095538139343, + "covertype_test_recall": 0.7357894778251648, + "covertype_test_f1-score": 0.7290263175964355, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7357894778251648 + }, + "10": { + "covertype_test_loss": 0.5755153298377991, + "covertype_test_accuracy": 0.7438889145851135, + "covertype_test_precision": 0.735747218132019, + "covertype_test_recall": 0.7438889145851135, + "covertype_test_f1-score": 0.7388799786567688, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7438889145851135 + }, + "20": { + "covertype_test_loss": 0.5552557706832886, + "covertype_test_accuracy": 0.7493749856948853, + "covertype_test_precision": 0.7482174634933472, + "covertype_test_recall": 0.7493749856948853, + "covertype_test_f1-score": 0.7469685077667236, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7493749856948853 + }, + "50": { + "covertype_test_loss": 0.525786817073822, + "covertype_test_accuracy": 0.7559999823570251, + "covertype_test_precision": 0.7571249008178711, + "covertype_test_recall": 0.7559999823570251, + "covertype_test_f1-score": 0.7552732825279236, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7559999823570251 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5897223949432373, + "lr": 0.0, + "covertype_val_accuracy": 0.739739716053009, + "covertype_val_precision": 0.7291386723518372, + "covertype_val_recall": 0.739739716053009, + "covertype_val_f1-score": 0.7325689792633057, + "covertype_val_support": 999.0, + "covertype_val_score": 0.739739716053009 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5794447660446167, + "lr": 0.0, + "covertype_test_accuracy": 0.7459999918937683, + "covertype_test_precision": 0.745229959487915, + "covertype_test_recall": 0.7459999918937683, + "covertype_test_f1-score": 0.7438040375709534, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7459999918937683 + }, + "5": { + "covertype_test_loss": 0.5582035779953003, + "covertype_test_accuracy": 0.7557894587516785, + "covertype_test_precision": 0.7542170286178589, + "covertype_test_recall": 0.7557894587516785, + "covertype_test_f1-score": 0.7538118362426758, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7557894587516785 + }, + "10": { + "covertype_test_loss": 0.5399053692817688, + "covertype_test_accuracy": 0.7594444155693054, + "covertype_test_precision": 0.7582689523696899, + "covertype_test_recall": 0.7594444155693054, + "covertype_test_f1-score": 0.7580237984657288, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7594444155693054 + }, + "20": { + "covertype_test_loss": 0.5160160660743713, + "covertype_test_accuracy": 0.7643749713897705, + "covertype_test_precision": 0.7645362019538879, + "covertype_test_recall": 0.7643749713897705, + "covertype_test_f1-score": 0.7636199593544006, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7643749713897705 + }, + "50": { + "covertype_test_loss": 0.4911707043647766, + "covertype_test_accuracy": 0.7739999890327454, + "covertype_test_precision": 0.771803617477417, + "covertype_test_recall": 0.7739999890327454, + "covertype_test_f1-score": 0.7725236415863037, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7739999890327454 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6013173460960388, + "lr": 0.0, + "covertype_val_accuracy": 0.7517517805099487, + "covertype_val_precision": 0.740911066532135, + "covertype_val_recall": 0.7517517805099487, + "covertype_val_f1-score": 0.7429785132408142, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7517517805099487 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5846076607704163, + "lr": 0.0, + "covertype_test_accuracy": 0.7475000023841858, + "covertype_test_precision": 0.7420684099197388, + "covertype_test_recall": 0.7475000023841858, + "covertype_test_f1-score": 0.740931510925293, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7475000023841858 + }, + "5": { + "covertype_test_loss": 0.5693926811218262, + "covertype_test_accuracy": 0.7568420767784119, + "covertype_test_precision": 0.753442645072937, + "covertype_test_recall": 0.7568420767784119, + "covertype_test_f1-score": 0.752636730670929, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7568420767784119 + }, + "10": { + "covertype_test_loss": 0.5507459044456482, + "covertype_test_accuracy": 0.7633333206176758, + "covertype_test_precision": 0.7607212066650391, + "covertype_test_recall": 0.7633333206176758, + "covertype_test_f1-score": 0.7601252198219299, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7633333206176758 + }, + "20": { + "covertype_test_loss": 0.5348623991012573, + "covertype_test_accuracy": 0.7674999833106995, + "covertype_test_precision": 0.7668150067329407, + "covertype_test_recall": 0.7674999833106995, + "covertype_test_f1-score": 0.7657690644264221, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7674999833106995 + }, + "50": { + "covertype_test_loss": 0.5052468776702881, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.7790466547012329, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.7773767113685608, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.777999997138977 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6002516150474548, + "lr": 0.0, + "covertype_val_accuracy": 0.7437437176704407, + "covertype_val_precision": 0.7346887588500977, + "covertype_val_recall": 0.7437437176704407, + "covertype_val_f1-score": 0.7333909273147583, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7437437176704407 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5912297964096069, + "lr": 0.0, + "covertype_test_accuracy": 0.7409999966621399, + "covertype_test_precision": 0.7405728697776794, + "covertype_test_recall": 0.7409999966621399, + "covertype_test_f1-score": 0.7346950173377991, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7409999966621399 + }, + "5": { + "covertype_test_loss": 0.569383978843689, + "covertype_test_accuracy": 0.7484210729598999, + "covertype_test_precision": 0.7470444440841675, + "covertype_test_recall": 0.7484210729598999, + "covertype_test_f1-score": 0.7427982687950134, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7484210729598999 + }, + "10": { + "covertype_test_loss": 0.5501099228858948, + "covertype_test_accuracy": 0.754444420337677, + "covertype_test_precision": 0.7533462643623352, + "covertype_test_recall": 0.754444420337677, + "covertype_test_f1-score": 0.7499126195907593, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.754444420337677 + }, + "20": { + "covertype_test_loss": 0.5310571789741516, + "covertype_test_accuracy": 0.7574999928474426, + "covertype_test_precision": 0.7526005506515503, + "covertype_test_recall": 0.7574999928474426, + "covertype_test_f1-score": 0.7546035647392273, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7574999928474426 + }, + "50": { + "covertype_test_loss": 0.5095376968383789, + "covertype_test_accuracy": 0.7670000195503235, + "covertype_test_precision": 0.7650106549263, + "covertype_test_recall": 0.7670000195503235, + "covertype_test_f1-score": 0.7656136155128479, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7670000195503235 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5960131287574768, + "std": 0.01596312237694708, + "n": 5, + "ci95": 0.01981765678159454 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.738699996471405, + "std": 0.008764987374305982, + "n": 5, + "ci95": 0.010881424534454114 + }, + "covertype_test_precision": { + "mean": 0.73545001745224, + "std": 0.010811872155737683, + "n": 5, + "ci95": 0.013422560229088843 + }, + "covertype_test_recall": { + "mean": 0.738699996471405, + "std": 0.008764987374305982, + "n": 5, + "ci95": 0.010881424534454114 + }, + "covertype_test_f1-score": { + "mean": 0.7329512596130371, + "std": 0.009993881502635126, + "n": 5, + "ci95": 0.012407053511108079 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.738699996471405, + "std": 0.008764987374305982, + "n": 5, + "ci95": 0.010881424534454114 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5762019157409668, + "std": 0.015639778472285825, + "n": 5, + "ci95": 0.01941623666003666 + }, + "covertype_test_accuracy": { + "mean": 0.7470526218414306, + "std": 0.009687637988411848, + "n": 5, + "ci95": 0.012026862924758205 + }, + "covertype_test_precision": { + "mean": 0.7434245109558105, + "std": 0.012404467461172757, + "n": 5, + "ci95": 0.015399711466159488 + }, + "covertype_test_recall": { + "mean": 0.7470526218414306, + "std": 0.009687637988411848, + "n": 5, + "ci95": 0.012026862924758205 + }, + "covertype_test_f1-score": { + "mean": 0.7421217083930969, + "std": 0.011346186921687571, + "n": 5, + "ci95": 0.014085893278531892 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7470526218414306, + "std": 0.009687637988411848, + "n": 5, + "ci95": 0.012026862924758205 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.556276285648346, + "std": 0.014006260501630095, + "n": 5, + "ci95": 0.017388281368797876 + }, + "covertype_test_accuracy": { + "mean": 0.753333330154419, + "std": 0.0084892591515932, + "n": 5, + "ci95": 0.01053911761268221 + }, + "covertype_test_precision": { + "mean": 0.7499905824661255, + "std": 0.010767630143797436, + "n": 5, + "ci95": 0.01336763532234095 + }, + "covertype_test_recall": { + "mean": 0.753333330154419, + "std": 0.0084892591515932, + "n": 5, + "ci95": 0.01053911761268221 + }, + "covertype_test_f1-score": { + "mean": 0.7494161128997803, + "std": 0.009824709344354468, + "n": 5, + "ci95": 0.012197032207591087 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.753333330154419, + "std": 0.0084892591515932, + "n": 5, + "ci95": 0.01053911761268221 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5365743279457093, + "std": 0.014899038780493378, + "n": 5, + "ci95": 0.01849663430218928 + }, + "covertype_test_accuracy": { + "mean": 0.7577499866485595, + "std": 0.008203936382318415, + "n": 5, + "ci95": 0.01018489939772775 + }, + "covertype_test_precision": { + "mean": 0.7564055800437928, + "std": 0.008643619212395703, + "n": 5, + "ci95": 0.0107307502164758 + }, + "covertype_test_recall": { + "mean": 0.7577499866485595, + "std": 0.008203936382318415, + "n": 5, + "ci95": 0.01018489939772775 + }, + "covertype_test_f1-score": { + "mean": 0.7557342171669006, + "std": 0.008737667801743025, + "n": 5, + "ci95": 0.01084750824291115 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7577499866485595, + "std": 0.008203936382318415, + "n": 5, + "ci95": 0.01018489939772775 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5099179983139038, + "std": 0.013116094196163957, + "n": 5, + "ci95": 0.016283171108806133 + }, + "covertype_test_accuracy": { + "mean": 0.7656000018119812, + "std": 0.010922449468491266, + "n": 5, + "ci95": 0.013559838086154338 + }, + "covertype_test_precision": { + "mean": 0.765031373500824, + "std": 0.010841959274876658, + "n": 5, + "ci95": 0.013459912332678818 + }, + "covertype_test_recall": { + "mean": 0.7656000018119812, + "std": 0.010922449468491266, + "n": 5, + "ci95": 0.013559838086154338 + }, + "covertype_test_f1-score": { + "mean": 0.7645929455757141, + "std": 0.01082084049837452, + "n": 5, + "ci95": 0.01343369411205232 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7656000018119812, + "std": 0.010922449468491266, + "n": 5, + "ci95": 0.013559838086154338 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..c02b133065980d7a8cca414580e05808cef3e7f6 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpmpi6vp5z", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpmpi6vp5z/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.7085561752319336, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7007007002830505, + "covertype_val_precision": 0.7081019282341003, + "covertype_val_recall": 0.7007007002830505, + "covertype_val_f1-score": 0.6849821209907532, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7007007002830505 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6944730281829834, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6934999823570251, + "covertype_test_precision": 0.7106301188468933, + "covertype_test_recall": 0.6934999823570251, + "covertype_test_f1-score": 0.6763576865196228, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6934999823570251 + }, + "5": { + "covertype_test_loss": 0.6742098331451416, + "covertype_test_accuracy": 0.7015789747238159, + "covertype_test_precision": 0.7173798084259033, + "covertype_test_recall": 0.7015789747238159, + "covertype_test_f1-score": 0.6892006397247314, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7015789747238159 + }, + "10": { + "covertype_test_loss": 0.6545080542564392, + "covertype_test_accuracy": 0.7061111330986023, + "covertype_test_precision": 0.7282955050468445, + "covertype_test_recall": 0.7061111330986023, + "covertype_test_f1-score": 0.6969115734100342, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7061111330986023 + }, + "20": { + "covertype_test_loss": 0.6259384751319885, + "covertype_test_accuracy": 0.7099999785423279, + "covertype_test_precision": 0.7491245865821838, + "covertype_test_recall": 0.7099999785423279, + "covertype_test_f1-score": 0.7032418847084045, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7099999785423279 + }, + "50": { + "covertype_test_loss": 0.5989537835121155, + "covertype_test_accuracy": 0.7099999785423279, + "covertype_test_precision": 0.7585036754608154, + "covertype_test_recall": 0.7099999785423279, + "covertype_test_f1-score": 0.7019097208976746, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7099999785423279 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6748036742210388, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.706706702709198, + "covertype_val_precision": 0.707279622554779, + "covertype_val_recall": 0.706706702709198, + "covertype_val_f1-score": 0.6952343583106995, + "covertype_val_support": 999.0, + "covertype_val_score": 0.706706702709198 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6648179888725281, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7095000147819519, + "covertype_test_precision": 0.7134241461753845, + "covertype_test_recall": 0.7095000147819519, + "covertype_test_f1-score": 0.7009625434875488, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7095000147819519 + }, + "5": { + "covertype_test_loss": 0.6511319279670715, + "covertype_test_accuracy": 0.7131578922271729, + "covertype_test_precision": 0.7155063152313232, + "covertype_test_recall": 0.7131578922271729, + "covertype_test_f1-score": 0.7049756050109863, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7131578922271729 + }, + "10": { + "covertype_test_loss": 0.6300591230392456, + "covertype_test_accuracy": 0.7205555438995361, + "covertype_test_precision": 0.7239782214164734, + "covertype_test_recall": 0.7205555438995361, + "covertype_test_f1-score": 0.7144618034362793, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7205555438995361 + }, + "20": { + "covertype_test_loss": 0.605876088142395, + "covertype_test_accuracy": 0.7250000238418579, + "covertype_test_precision": 0.7392477989196777, + "covertype_test_recall": 0.7250000238418579, + "covertype_test_f1-score": 0.7221735119819641, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7250000238418579 + }, + "50": { + "covertype_test_loss": 0.5767272114753723, + "covertype_test_accuracy": 0.7300000190734863, + "covertype_test_precision": 0.7423102855682373, + "covertype_test_recall": 0.7300000190734863, + "covertype_test_f1-score": 0.7280609011650085, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7300000190734863 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.9313152432441711, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6526526808738708, + "covertype_val_precision": 0.6704307794570923, + "covertype_val_recall": 0.6526526808738708, + "covertype_val_f1-score": 0.6391211152076721, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6526526808738708 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.9191003441810608, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6439999938011169, + "covertype_test_precision": 0.6708754301071167, + "covertype_test_recall": 0.6439999938011169, + "covertype_test_f1-score": 0.6343151330947876, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6439999938011169 + }, + "5": { + "covertype_test_loss": 0.8922330737113953, + "covertype_test_accuracy": 0.6510526537895203, + "covertype_test_precision": 0.6891175508499146, + "covertype_test_recall": 0.6510526537895203, + "covertype_test_f1-score": 0.64790278673172, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6510526537895203 + }, + "10": { + "covertype_test_loss": 0.8450356125831604, + "covertype_test_accuracy": 0.6677777767181396, + "covertype_test_precision": 0.7084062695503235, + "covertype_test_recall": 0.6677777767181396, + "covertype_test_f1-score": 0.6660937070846558, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6677777767181396 + }, + "20": { + "covertype_test_loss": 0.7825936675071716, + "covertype_test_accuracy": 0.6956250071525574, + "covertype_test_precision": 0.7305176854133606, + "covertype_test_recall": 0.6956250071525574, + "covertype_test_f1-score": 0.6918127536773682, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6956250071525574 + }, + "50": { + "covertype_test_loss": 0.698147714138031, + "covertype_test_accuracy": 0.699999988079071, + "covertype_test_precision": 0.7404001355171204, + "covertype_test_recall": 0.699999988079071, + "covertype_test_f1-score": 0.6911372542381287, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.699999988079071 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.7753435373306274, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6446446180343628, + "covertype_val_precision": 0.6348298788070679, + "covertype_val_recall": 0.6446446180343628, + "covertype_val_f1-score": 0.5902411937713623, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6446446180343628 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7794994115829468, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6384999752044678, + "covertype_test_precision": 0.6480629444122314, + "covertype_test_recall": 0.6384999752044678, + "covertype_test_f1-score": 0.5851503014564514, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6384999752044678 + }, + "5": { + "covertype_test_loss": 0.7582647204399109, + "covertype_test_accuracy": 0.6468421220779419, + "covertype_test_precision": 0.6670476794242859, + "covertype_test_recall": 0.6468421220779419, + "covertype_test_f1-score": 0.5972225666046143, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6468421220779419 + }, + "10": { + "covertype_test_loss": 0.7336298823356628, + "covertype_test_accuracy": 0.6577777862548828, + "covertype_test_precision": 0.6861414313316345, + "covertype_test_recall": 0.6577777862548828, + "covertype_test_f1-score": 0.6101703643798828, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6577777862548828 + }, + "20": { + "covertype_test_loss": 0.7094577550888062, + "covertype_test_accuracy": 0.6606249809265137, + "covertype_test_precision": 0.6985968947410583, + "covertype_test_recall": 0.6606249809265137, + "covertype_test_f1-score": 0.6148273944854736, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6606249809265137 + }, + "50": { + "covertype_test_loss": 0.6894568204879761, + "covertype_test_accuracy": 0.6510000228881836, + "covertype_test_precision": 0.7183725237846375, + "covertype_test_recall": 0.6510000228881836, + "covertype_test_f1-score": 0.6025523543357849, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6510000228881836 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6540750861167908, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7187187075614929, + "covertype_val_precision": 0.7023812532424927, + "covertype_val_recall": 0.7187187075614929, + "covertype_val_f1-score": 0.7000402808189392, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7187187075614929 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6561082005500793, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7129999995231628, + "covertype_test_precision": 0.7064338326454163, + "covertype_test_recall": 0.7129999995231628, + "covertype_test_f1-score": 0.6977789402008057, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7129999995231628 + }, + "5": { + "covertype_test_loss": 0.6362253427505493, + "covertype_test_accuracy": 0.7221052646636963, + "covertype_test_precision": 0.717523455619812, + "covertype_test_recall": 0.7221052646636963, + "covertype_test_f1-score": 0.7086941003799438, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7221052646636963 + }, + "10": { + "covertype_test_loss": 0.6120989918708801, + "covertype_test_accuracy": 0.7311111092567444, + "covertype_test_precision": 0.7257925271987915, + "covertype_test_recall": 0.7311111092567444, + "covertype_test_f1-score": 0.7203461527824402, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7311111092567444 + }, + "20": { + "covertype_test_loss": 0.5830036401748657, + "covertype_test_accuracy": 0.7387499809265137, + "covertype_test_precision": 0.7423043847084045, + "covertype_test_recall": 0.7387499809265137, + "covertype_test_f1-score": 0.7324770092964172, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7387499809265137 + }, + "50": { + "covertype_test_loss": 0.5501331090927124, + "covertype_test_accuracy": 0.7459999918937683, + "covertype_test_precision": 0.7392829656600952, + "covertype_test_recall": 0.7459999918937683, + "covertype_test_f1-score": 0.7416622042655945, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7459999918937683 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.7427997946739197, + "std": 0.10995546430832503, + "n": 5, + "ci95": 0.13650585402202467 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.6796999931335449, + "std": 0.03591414362077261, + "n": 5, + "ci95": 0.04458615019510252 + }, + "covertype_test_precision": { + "mean": 0.6898852944374084, + "std": 0.029020524208003176, + "n": 5, + "ci95": 0.03602796337680856 + }, + "covertype_test_recall": { + "mean": 0.6796999931335449, + "std": 0.03591414362077261, + "n": 5, + "ci95": 0.04458615019510252 + }, + "covertype_test_f1-score": { + "mean": 0.6589129209518433, + "std": 0.04906381878648842, + "n": 5, + "ci95": 0.060911010900295694 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6796999931335449, + "std": 0.03591414362077261, + "n": 5, + "ci95": 0.04458615019510252 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.7224129796028137, + "std": 0.10601539048764666, + "n": 5, + "ci95": 0.1316143905082755 + }, + "covertype_test_accuracy": { + "mean": 0.6869473814964294, + "std": 0.0354753944732072, + "n": 5, + "ci95": 0.044041458510459104 + }, + "covertype_test_precision": { + "mean": 0.7013149619102478, + "std": 0.02261201315968794, + "n": 5, + "ci95": 0.028072021585622667 + }, + "covertype_test_recall": { + "mean": 0.6869473814964294, + "std": 0.0354753944732072, + "n": 5, + "ci95": 0.044041458510459104 + }, + "covertype_test_f1-score": { + "mean": 0.6695991396903992, + "std": 0.04709890953313365, + "n": 5, + "ci95": 0.05847164494979728 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6869473814964294, + "std": 0.0354753944732072, + "n": 5, + "ci95": 0.044041458510459104 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6950663328170776, + "std": 0.09582852285673348, + "n": 5, + "ci95": 0.11896775148479004 + }, + "covertype_test_accuracy": { + "mean": 0.696666669845581, + "std": 0.03237749607795632, + "n": 5, + "ci95": 0.04019552626164076 + }, + "covertype_test_precision": { + "mean": 0.7145227909088134, + "std": 0.017670690293794016, + "n": 5, + "ci95": 0.021937542484920632 + }, + "covertype_test_recall": { + "mean": 0.696666669845581, + "std": 0.03237749607795632, + "n": 5, + "ci95": 0.04019552626164076 + }, + "covertype_test_f1-score": { + "mean": 0.6815967202186585, + "std": 0.04516150094890022, + "n": 5, + "ci95": 0.056066420115870014 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.696666669845581, + "std": 0.03237749607795632, + "n": 5, + "ci95": 0.04019552626164076 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6613739252090454, + "std": 0.08289128910251749, + "n": 5, + "ci95": 0.10290662934401339 + }, + "covertype_test_accuracy": { + "mean": 0.7059999942779541, + "std": 0.03006698695214085, + "n": 5, + "ci95": 0.03732711018583103 + }, + "covertype_test_precision": { + "mean": 0.731958270072937, + "std": 0.01981109783397446, + "n": 5, + "ci95": 0.024594783405737612 + }, + "covertype_test_recall": { + "mean": 0.7059999942779541, + "std": 0.03006698695214085, + "n": 5, + "ci95": 0.03732711018583103 + }, + "covertype_test_f1-score": { + "mean": 0.6929065108299255, + "std": 0.04644013989095861, + "n": 5, + "ci95": 0.057653805534770786 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7059999942779541, + "std": 0.03006698695214085, + "n": 5, + "ci95": 0.03732711018583103 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6226837277412415, + "std": 0.06725355578806907, + "n": 5, + "ci95": 0.08349293167573091 + }, + "covertype_test_accuracy": { + "mean": 0.7074000000953674, + "std": 0.03620496416026674, + "n": 5, + "ci95": 0.044947193699038566 + }, + "covertype_test_precision": { + "mean": 0.7397739171981812, + "std": 0.014281892661009028, + "n": 5, + "ci95": 0.01773046903130868 + }, + "covertype_test_recall": { + "mean": 0.7074000000953674, + "std": 0.03620496416026674, + "n": 5, + "ci95": 0.044947193699038566 + }, + "covertype_test_f1-score": { + "mean": 0.6930644869804382, + "std": 0.05445384668708664, + "n": 5, + "ci95": 0.0676025415704817 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7074000000953674, + "std": 0.03620496416026674, + "n": 5, + "ci95": 0.044947193699038566 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..58760ad28d86ff7e8b18a983712575132cd6ffc2 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpnc3x35ed", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpnc3x35ed/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true, + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy" + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5599992275238037, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.782782793045044, + "covertype_val_precision": 0.7753750681877136, + "covertype_val_recall": 0.782782793045044, + "covertype_val_f1-score": 0.7758421897888184, + "covertype_val_support": 999.0, + "covertype_val_score": 0.782782793045044 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5484500527381897, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7835479378700256, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7809123992919922, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7850000262260437 + }, + "5": { + "covertype_test_loss": 0.5251082181930542, + "covertype_test_accuracy": 0.7926315665245056, + "covertype_test_precision": 0.7897440195083618, + "covertype_test_recall": 0.7926315665245056, + "covertype_test_f1-score": 0.789130687713623, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7926315665245056 + }, + "10": { + "covertype_test_loss": 0.5047286748886108, + "covertype_test_accuracy": 0.8005555272102356, + "covertype_test_precision": 0.7985818386077881, + "covertype_test_recall": 0.8005555272102356, + "covertype_test_f1-score": 0.7984618544578552, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8005555272102356 + }, + "20": { + "covertype_test_loss": 0.4824334383010864, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8093312978744507, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8089545369148254, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8100000023841858 + }, + "50": { + "covertype_test_loss": 0.4648470878601074, + "covertype_test_accuracy": 0.8119999766349792, + "covertype_test_precision": 0.8115484118461609, + "covertype_test_recall": 0.8119999766349792, + "covertype_test_f1-score": 0.8106148838996887, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8119999766349792 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6566070914268494, + "lr": 0.0, + "covertype_val_accuracy": 0.7337337136268616, + "covertype_val_precision": 0.7233425974845886, + "covertype_val_recall": 0.7337337136268616, + "covertype_val_f1-score": 0.7247955203056335, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7337337136268616 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6195783019065857, + "lr": 0.0, + "covertype_test_accuracy": 0.7540000081062317, + "covertype_test_precision": 0.7516863942146301, + "covertype_test_recall": 0.7540000081062317, + "covertype_test_f1-score": 0.7504158020019531, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7540000081062317 + }, + "5": { + "covertype_test_loss": 0.5956597328186035, + "covertype_test_accuracy": 0.7636842131614685, + "covertype_test_precision": 0.7615035772323608, + "covertype_test_recall": 0.7636842131614685, + "covertype_test_f1-score": 0.7605667114257812, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7636842131614685 + }, + "10": { + "covertype_test_loss": 0.5789265036582947, + "covertype_test_accuracy": 0.7661111354827881, + "covertype_test_precision": 0.7645258903503418, + "covertype_test_recall": 0.7661111354827881, + "covertype_test_f1-score": 0.7634519934654236, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7661111354827881 + }, + "20": { + "covertype_test_loss": 0.5590808987617493, + "covertype_test_accuracy": 0.7718750238418579, + "covertype_test_precision": 0.7720515131950378, + "covertype_test_recall": 0.7718750238418579, + "covertype_test_f1-score": 0.770045816898346, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7718750238418579 + }, + "50": { + "covertype_test_loss": 0.5243058800697327, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7758869528770447, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7730805277824402, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7749999761581421 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6066661477088928, + "lr": 0.0, + "covertype_val_accuracy": 0.7557557821273804, + "covertype_val_precision": 0.7537184953689575, + "covertype_val_recall": 0.7557557821273804, + "covertype_val_f1-score": 0.7534528970718384, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7557557821273804 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5863391757011414, + "lr": 0.0, + "covertype_test_accuracy": 0.7645000219345093, + "covertype_test_precision": 0.7668017148971558, + "covertype_test_recall": 0.7645000219345093, + "covertype_test_f1-score": 0.7633199691772461, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7645000219345093 + }, + "5": { + "covertype_test_loss": 0.5597100853919983, + "covertype_test_accuracy": 0.7721052765846252, + "covertype_test_precision": 0.7740963101387024, + "covertype_test_recall": 0.7721052765846252, + "covertype_test_f1-score": 0.7708684206008911, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7721052765846252 + }, + "10": { + "covertype_test_loss": 0.5388193130493164, + "covertype_test_accuracy": 0.7744444608688354, + "covertype_test_precision": 0.7773459553718567, + "covertype_test_recall": 0.7744444608688354, + "covertype_test_f1-score": 0.7739894390106201, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7744444608688354 + }, + "20": { + "covertype_test_loss": 0.5259525775909424, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7841287851333618, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7801151871681213, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7799999713897705 + }, + "50": { + "covertype_test_loss": 0.4882763624191284, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7883472442626953, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7854264974594116, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6704974174499512, + "lr": 0.0, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.7438618540763855, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.7369820475578308, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6491712927818298, + "lr": 0.0, + "covertype_test_accuracy": 0.7459999918937683, + "covertype_test_precision": 0.7515453696250916, + "covertype_test_recall": 0.7459999918937683, + "covertype_test_f1-score": 0.746316134929657, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7459999918937683 + }, + "5": { + "covertype_test_loss": 0.631959855556488, + "covertype_test_accuracy": 0.7521052360534668, + "covertype_test_precision": 0.7575766444206238, + "covertype_test_recall": 0.7521052360534668, + "covertype_test_f1-score": 0.7524901032447815, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7521052360534668 + }, + "10": { + "covertype_test_loss": 0.618456244468689, + "covertype_test_accuracy": 0.7566666603088379, + "covertype_test_precision": 0.7633765339851379, + "covertype_test_recall": 0.7566666603088379, + "covertype_test_f1-score": 0.7573983669281006, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7566666603088379 + }, + "20": { + "covertype_test_loss": 0.6004136800765991, + "covertype_test_accuracy": 0.7606250047683716, + "covertype_test_precision": 0.768779993057251, + "covertype_test_recall": 0.7606250047683716, + "covertype_test_f1-score": 0.7612440586090088, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7606250047683716 + }, + "50": { + "covertype_test_loss": 0.6047722697257996, + "covertype_test_accuracy": 0.7590000033378601, + "covertype_test_precision": 0.7663744688034058, + "covertype_test_recall": 0.7590000033378601, + "covertype_test_f1-score": 0.758965015411377, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7590000033378601 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.629175066947937, + "lr": 0.0, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.7457678318023682, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.7396791577339172, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6034064888954163, + "lr": 0.0, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7646081447601318, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7611145973205566, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7599999904632568 + }, + "5": { + "covertype_test_loss": 0.5839992761611938, + "covertype_test_accuracy": 0.7668421268463135, + "covertype_test_precision": 0.7706618905067444, + "covertype_test_recall": 0.7668421268463135, + "covertype_test_f1-score": 0.7676655650138855, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7668421268463135 + }, + "10": { + "covertype_test_loss": 0.5746468305587769, + "covertype_test_accuracy": 0.7716666460037231, + "covertype_test_precision": 0.7754108905792236, + "covertype_test_recall": 0.7716666460037231, + "covertype_test_f1-score": 0.7724176049232483, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7716666460037231 + }, + "20": { + "covertype_test_loss": 0.5610352158546448, + "covertype_test_accuracy": 0.7743750214576721, + "covertype_test_precision": 0.7812402248382568, + "covertype_test_recall": 0.7743750214576721, + "covertype_test_f1-score": 0.7762430906295776, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7743750214576721 + }, + "50": { + "covertype_test_loss": 0.5420256853103638, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.783237874507904, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.781241238117218, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6013890624046325, + "std": 0.037573587190260174, + "n": 5, + "ci95": 0.04664629120836826 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198932, + "n": 5, + "ci95": 0.0002776000455021858 + }, + "covertype_test_accuracy": { + "mean": 0.761900007724762, + "std": 0.014656069490513915, + "n": 5, + "ci95": 0.0181949964469139 + }, + "covertype_test_precision": { + "mean": 0.7636379122734069, + "std": 0.013194965791817562, + "n": 5, + "ci95": 0.01638108742965932 + }, + "covertype_test_recall": { + "mean": 0.761900007724762, + "std": 0.014656069490513915, + "n": 5, + "ci95": 0.0181949964469139 + }, + "covertype_test_f1-score": { + "mean": 0.760415780544281, + "std": 0.013489195805316545, + "n": 5, + "ci95": 0.01674636367604001 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.761900007724762, + "std": 0.014656069490513915, + "n": 5, + "ci95": 0.0181949964469139 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5792874336242676, + "std": 0.039947770969595, + "n": 5, + "ci95": 0.049593757134159464 + }, + "covertype_test_accuracy": { + "mean": 0.7694736838340759, + "std": 0.014877154064748202, + "n": 5, + "ci95": 0.01846946519484553 + }, + "covertype_test_precision": { + "mean": 0.7707164883613586, + "std": 0.012559919864196882, + "n": 5, + "ci95": 0.015592700174524913 + }, + "covertype_test_recall": { + "mean": 0.7694736838340759, + "std": 0.014877154064748202, + "n": 5, + "ci95": 0.01846946519484553 + }, + "covertype_test_f1-score": { + "mean": 0.7681442975997925, + "std": 0.0136981040125343, + "n": 5, + "ci95": 0.017005715891210554 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7694736838340759, + "std": 0.014877154064748202, + "n": 5, + "ci95": 0.01846946519484553 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5631155133247375, + "std": 0.043141869067116055, + "n": 5, + "ci95": 0.05355911794069124 + }, + "covertype_test_accuracy": { + "mean": 0.773888885974884, + "std": 0.016381813302689386, + "n": 5, + "ci95": 0.020337446887063616 + }, + "covertype_test_precision": { + "mean": 0.7758482217788696, + "std": 0.014168538950960817, + "n": 5, + "ci95": 0.017589744374339317 + }, + "covertype_test_recall": { + "mean": 0.773888885974884, + "std": 0.016381813302689386, + "n": 5, + "ci95": 0.020337446887063616 + }, + "covertype_test_f1-score": { + "mean": 0.7731438517570496, + "std": 0.0156851531923395, + "n": 5, + "ci95": 0.01947256778419588 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.773888885974884, + "std": 0.016381813302689386, + "n": 5, + "ci95": 0.020337446887063616 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5457831621170044, + "std": 0.04415990269979327, + "n": 5, + "ci95": 0.0548229710045287 + }, + "covertype_test_accuracy": { + "mean": 0.7793750047683716, + "std": 0.01851413722842514, + "n": 5, + "ci95": 0.022984652283950083 + }, + "covertype_test_precision": { + "mean": 0.7831063628196716, + "std": 0.01596660270512685, + "n": 5, + "ci95": 0.01982197748701327 + }, + "covertype_test_recall": { + "mean": 0.7793750047683716, + "std": 0.01851413722842514, + "n": 5, + "ci95": 0.022984652283950083 + }, + "covertype_test_f1-score": { + "mean": 0.7793205380439758, + "std": 0.018035074161119963, + "n": 5, + "ci95": 0.022389912281311097 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7793750047683716, + "std": 0.01851413722842514, + "n": 5, + "ci95": 0.022984652283950083 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5248454570770263, + "std": 0.0539000226309704, + "n": 5, + "ci95": 0.06691498842127123 + }, + "covertype_test_accuracy": { + "mean": 0.7821999907493591, + "std": 0.019305433617532827, + "n": 5, + "ci95": 0.02396701900905254 + }, + "covertype_test_precision": { + "mean": 0.7850789904594422, + "std": 0.01694885058576622, + "n": 5, + "ci95": 0.021041403794304574 + }, + "covertype_test_recall": { + "mean": 0.7821999907493591, + "std": 0.019305433617532827, + "n": 5, + "ci95": 0.02396701900905254 + }, + "covertype_test_f1-score": { + "mean": 0.7818656325340271, + "std": 0.018981605645895346, + "n": 5, + "ci95": 0.023564997935314528 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7821999907493591, + "std": 0.019305433617532827, + "n": 5, + "ci95": 0.02396701900905254 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..4d90183532f4fd05fdbc6468355cb6c9c8b1db4f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:577bd3063e83a43464e02a09a30d4e4a9b6c4c22ff062fc683a50d6d2d8f43b1 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..ac04828a4fb274e8d64f3787ef927be5e3a38cd1 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:a1182ff7d44525a4a9a5c0fc7ef521259722c4375c9505ab60111ecec72d8bae +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..2a80692877fc3caa52d6c27bc689d38665c9a6f2 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:a5beb1263d6bee6a953363004d90e88e174a172057cb4c2800fc17635af0d951 +size 11503568 diff --git a/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..cbf88fafd50d85b3eac42dcc960099269d947679 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_kl_sweep_ebe7d90_v1/queue7-gpu3-kl1e-5/pretrain/wjepa_joint/covertype/20260917_172010/vtjepa_config.yaml @@ -0,0 +1,130 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +latent_architecture: stochastic +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-05 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/exit_code b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/exit_code new file mode 100644 index 0000000000000000000000000000000000000000..573541ac9702dd3969c9bc859d2b91ec1f7e6e56 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/exit_code @@ -0,0 +1 @@ +0 diff --git a/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..4c4bdfb11326e435bb4f899335634180f30332fa --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/paper_alignment_manifest.json @@ -0,0 +1,231 @@ +{ + "code_variant": "paper-aligned-v5-flattened-block-pooled-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "e7f57ec6d07cbc6a2d9bc3ef8b48dbaeae8279ecb676b0425226675cbf42c437", + "src/run_vtjepa.py": "24a5f7b053228e6d774fcf9a09203ca2653b4b6812a56b21c2ac4d46211d2cb9", + "src/train_vtjepa.py": "9194547ac205199617bc0b4c8e3f2a14e6002a8d1b1feb6e8265ce4195a101f4", + "src/vtjepa.py": "3d11b290bc62128f969661cb5600129da45a5b6f1b9afb598350f026584f92d5", + "src/sliced_wasserstein.py": "dfde10ee75dc346c1fa9643b052710d2cc8b985546f25a7bcbf96567f1335db7" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 65536, + "sw_marginal_num_projections": 32768, + "sw_component_weights": { + "full": 0.001875, + "s_x": 0.00075, + "z": 7.5e-05, + "s_y": 7.5e-05 + }, + "sw_annealing_schedule": { + "full": { + "start_epoch": 1, + "annealing_epochs": 60 + }, + "s_x": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "z": { + "start_epoch": 0, + "annealing_epochs": 30 + }, + "s_y": { + "start_epoch": 0, + "annealing_epochs": 30 + } + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "65536", + "--sw_marginal_num_projections", + "32768", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..decd7454d67edb4e05fea3b47be057d61e48870d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpdv_aufda", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpdv_aufda/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6020314693450928, + "lr": 0.0002061073755612597, + "covertype_val_accuracy": 0.7577577829360962, + "covertype_val_precision": 0.7524922490119934, + "covertype_val_recall": 0.7577577829360962, + "covertype_val_f1-score": 0.7519453763961792, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7577577829360962 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5789165496826172, + "lr": 0.000206107331905514, + "covertype_test_accuracy": 0.7480000257492065, + "covertype_test_precision": 0.7462155222892761, + "covertype_test_recall": 0.7480000257492065, + "covertype_test_f1-score": 0.745022714138031, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7480000257492065 + }, + "5": { + "covertype_test_loss": 0.5541432499885559, + "covertype_test_accuracy": 0.7568420767784119, + "covertype_test_precision": 0.7555052042007446, + "covertype_test_recall": 0.7568420767784119, + "covertype_test_f1-score": 0.7545871734619141, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7568420767784119 + }, + "10": { + "covertype_test_loss": 0.5444003343582153, + "covertype_test_accuracy": 0.7616666555404663, + "covertype_test_precision": 0.7593460083007812, + "covertype_test_recall": 0.7616666555404663, + "covertype_test_f1-score": 0.7586716413497925, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7616666555404663 + }, + "20": { + "covertype_test_loss": 0.5202265381813049, + "covertype_test_accuracy": 0.7668750286102295, + "covertype_test_precision": 0.7649312615394592, + "covertype_test_recall": 0.7668750286102295, + "covertype_test_f1-score": 0.7640768885612488, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7668750286102295 + }, + "50": { + "covertype_test_loss": 0.5258855223655701, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.753579318523407, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7501188516616821, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7549999952316284 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5995481014251709, + "lr": 0.0, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7550923824310303, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7523356676101685, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5972146391868591, + "lr": 0.0, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7612651586532593, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7601243853569031, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7620000243186951 + }, + "5": { + "covertype_test_loss": 0.5719953775405884, + "covertype_test_accuracy": 0.7668421268463135, + "covertype_test_precision": 0.7646991014480591, + "covertype_test_recall": 0.7668421268463135, + "covertype_test_f1-score": 0.7645535469055176, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7668421268463135 + }, + "10": { + "covertype_test_loss": 0.5632282495498657, + "covertype_test_accuracy": 0.7733333110809326, + "covertype_test_precision": 0.7695744037628174, + "covertype_test_recall": 0.7733333110809326, + "covertype_test_f1-score": 0.7703498601913452, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7733333110809326 + }, + "20": { + "covertype_test_loss": 0.5350543260574341, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7777419090270996, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7776719927787781, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7799999713897705 + }, + "50": { + "covertype_test_loss": 0.5222304463386536, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7848166823387146, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7819415926933289, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6387907862663269, + "lr": 8.856373824528418e-06, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7537651062011719, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7520206570625305, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6030367612838745, + "lr": 8.856373824528418e-06, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7551143765449524, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7542541027069092, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7549999952316284 + }, + "5": { + "covertype_test_loss": 0.5784826874732971, + "covertype_test_accuracy": 0.7610526084899902, + "covertype_test_precision": 0.7616412043571472, + "covertype_test_recall": 0.7610526084899902, + "covertype_test_f1-score": 0.7602702975273132, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7610526084899902 + }, + "10": { + "covertype_test_loss": 0.5658989548683167, + "covertype_test_accuracy": 0.7688888907432556, + "covertype_test_precision": 0.7677457332611084, + "covertype_test_recall": 0.7688888907432556, + "covertype_test_f1-score": 0.767250657081604, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7688888907432556 + }, + "20": { + "covertype_test_loss": 0.5315794944763184, + "covertype_test_accuracy": 0.7762500047683716, + "covertype_test_precision": 0.7751494646072388, + "covertype_test_recall": 0.7762500047683716, + "covertype_test_f1-score": 0.7749142050743103, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7762500047683716 + }, + "50": { + "covertype_test_loss": 0.515200138092041, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.7766567468643188, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.776719331741333, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.777999997138977 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6186650395393372, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.7517517805099487, + "covertype_val_precision": 0.746959924697876, + "covertype_val_recall": 0.7517517805099487, + "covertype_val_f1-score": 0.7464491724967957, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7517517805099487 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5932055711746216, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.7595000267028809, + "covertype_test_precision": 0.7591189742088318, + "covertype_test_recall": 0.7595000267028809, + "covertype_test_f1-score": 0.7577256560325623, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7595000267028809 + }, + "5": { + "covertype_test_loss": 0.573979377746582, + "covertype_test_accuracy": 0.7652631402015686, + "covertype_test_precision": 0.7650238275527954, + "covertype_test_recall": 0.7652631402015686, + "covertype_test_f1-score": 0.7637054920196533, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7652631402015686 + }, + "10": { + "covertype_test_loss": 0.5652009844779968, + "covertype_test_accuracy": 0.7716666460037231, + "covertype_test_precision": 0.7705568075180054, + "covertype_test_recall": 0.7716666460037231, + "covertype_test_f1-score": 0.7694649696350098, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7716666460037231 + }, + "20": { + "covertype_test_loss": 0.5442324876785278, + "covertype_test_accuracy": 0.7793750166893005, + "covertype_test_precision": 0.7776604294776917, + "covertype_test_recall": 0.7793750166893005, + "covertype_test_f1-score": 0.77736496925354, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7793750166893005 + }, + "50": { + "covertype_test_loss": 0.5373770594596863, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7795730233192444, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7795165777206421, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6057931184768677, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7697697877883911, + "covertype_val_precision": 0.7645175457000732, + "covertype_val_recall": 0.7697697877883911, + "covertype_val_f1-score": 0.7655471563339233, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7697697877883911 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5953058004379272, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7544999718666077, + "covertype_test_precision": 0.7537986636161804, + "covertype_test_recall": 0.7544999718666077, + "covertype_test_f1-score": 0.7525936961174011, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7544999718666077 + }, + "5": { + "covertype_test_loss": 0.5736105442047119, + "covertype_test_accuracy": 0.7610526084899902, + "covertype_test_precision": 0.7610374093055725, + "covertype_test_recall": 0.7610526084899902, + "covertype_test_f1-score": 0.7597231864929199, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7610526084899902 + }, + "10": { + "covertype_test_loss": 0.5652529001235962, + "covertype_test_accuracy": 0.7633333206176758, + "covertype_test_precision": 0.7626346349716187, + "covertype_test_recall": 0.7633333206176758, + "covertype_test_f1-score": 0.7616250514984131, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7633333206176758 + }, + "20": { + "covertype_test_loss": 0.5404717326164246, + "covertype_test_accuracy": 0.7718750238418579, + "covertype_test_precision": 0.7705724835395813, + "covertype_test_recall": 0.7718750238418579, + "covertype_test_f1-score": 0.770225465297699, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7718750238418579 + }, + "50": { + "covertype_test_loss": 0.5317269563674927, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7683959007263184, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7674261927604675, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7699999809265137 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.59353586435318, + "std": 0.008954978441199858, + "n": 5, + "ci95": 0.011117291783126546 + }, + "lr": { + "mean": 4.3978598137073276e-05, + "std": 9.069812578561873e-05, + "n": 5, + "ci95": 0.00011259854338703853 + }, + "covertype_test_accuracy": { + "mean": 0.7558000087738037, + "std": 0.005368896028145044, + "n": 5, + "ci95": 0.006665296191395435 + }, + "covertype_test_precision": { + "mean": 0.7551025390625, + "std": 0.0058049317381466195, + "n": 5, + "ci95": 0.007206619238433475 + }, + "covertype_test_recall": { + "mean": 0.7558000087738037, + "std": 0.005368896028145044, + "n": 5, + "ci95": 0.006665296191395435 + }, + "covertype_test_f1-score": { + "mean": 0.7539441108703613, + "std": 0.005788067707407567, + "n": 5, + "ci95": 0.007185683135505174 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7558000087738037, + "std": 0.005368896028145044, + "n": 5, + "ci95": 0.006665296191395435 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5704422473907471, + "std": 0.009424271883753232, + "n": 5, + "ci95": 0.011699903139148383 + }, + "covertype_test_accuracy": { + "mean": 0.7622105121612549, + "std": 0.003945629633752298, + "n": 5, + "ci95": 0.004898360860899815 + }, + "covertype_test_precision": { + "mean": 0.7615813493728638, + "std": 0.003833732762931751, + "n": 5, + "ci95": 0.004759444818756428 + }, + "covertype_test_recall": { + "mean": 0.7622105121612549, + "std": 0.003945629633752298, + "n": 5, + "ci95": 0.004898360860899815 + }, + "covertype_test_f1-score": { + "mean": 0.7605679392814636, + "std": 0.003946551120715944, + "n": 5, + "ci95": 0.004899504854658869 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7622105121612549, + "std": 0.003945629633752298, + "n": 5, + "ci95": 0.004898360860899815 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5607962846755982, + "std": 0.009220109606940698, + "n": 5, + "ci95": 0.011446442830188861 + }, + "covertype_test_accuracy": { + "mean": 0.7677777647972107, + "std": 0.0051068785189630535, + "n": 5, + "ci95": 0.00634001063978958 + }, + "covertype_test_precision": { + "mean": 0.7659715175628662, + "std": 0.0048006685132419916, + "n": 5, + "ci95": 0.005959861653070438 + }, + "covertype_test_recall": { + "mean": 0.7677777647972107, + "std": 0.0051068785189630535, + "n": 5, + "ci95": 0.00634001063978958 + }, + "covertype_test_f1-score": { + "mean": 0.7654724359512329, + "std": 0.005097667043888977, + "n": 5, + "ci95": 0.006328574916429226 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7677777647972107, + "std": 0.0051068785189630535, + "n": 5, + "ci95": 0.00634001063978958 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5343129158020019, + "std": 0.009257108708319967, + "n": 5, + "ci95": 0.01149237591740372 + }, + "covertype_test_accuracy": { + "mean": 0.774875009059906, + "std": 0.005509208637571086, + "n": 5, + "ci95": 0.006839489376793229 + }, + "covertype_test_precision": { + "mean": 0.7732111096382142, + "std": 0.00546809021389272, + "n": 5, + "ci95": 0.006788442295362917 + }, + "covertype_test_recall": { + "mean": 0.774875009059906, + "std": 0.005509208637571086, + "n": 5, + "ci95": 0.006839489376793229 + }, + "covertype_test_f1-score": { + "mean": 0.7728507041931152, + "std": 0.005739189153284163, + "n": 5, + "ci95": 0.007125002124188925 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.774875009059906, + "std": 0.005509208637571086, + "n": 5, + "ci95": 0.006839489376793229 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5264840245246887, + "std": 0.008542888411530372, + "n": 5, + "ci95": 0.010605696458711771 + }, + "covertype_test_accuracy": { + "mean": 0.7740000009536743, + "std": 0.012020825385505293, + "n": 5, + "ci95": 0.014923433279284476 + }, + "covertype_test_precision": { + "mean": 0.7726043343544007, + "std": 0.012183885436312865, + "n": 5, + "ci95": 0.015125866615657346 + }, + "covertype_test_recall": { + "mean": 0.7740000009536743, + "std": 0.012020825385505293, + "n": 5, + "ci95": 0.014923433279284476 + }, + "covertype_test_f1-score": { + "mean": 0.7711445093154907, + "std": 0.012977397097518398, + "n": 5, + "ci95": 0.01611098352340429 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7740000009536743, + "std": 0.012020825385505293, + "n": 5, + "ci95": 0.014923433279284476 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..2060ce7bdd16e33b2251d0628d6ea045dfab187c --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp1kfa59e3", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp1kfa59e3/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5759993195533752, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7638193964958191, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7643114924430847, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5912207365036011, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.7851523160934448, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7821389436721802, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7839999794960022 + }, + "5": { + "covertype_test_loss": 0.5435233116149902, + "covertype_test_accuracy": 0.7926315665245056, + "covertype_test_precision": 0.7924878597259521, + "covertype_test_recall": 0.7926315665245056, + "covertype_test_f1-score": 0.7908945083618164, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7926315665245056 + }, + "10": { + "covertype_test_loss": 0.5313439965248108, + "covertype_test_accuracy": 0.7977777719497681, + "covertype_test_precision": 0.7962375283241272, + "covertype_test_recall": 0.7977777719497681, + "covertype_test_f1-score": 0.7952799201011658, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7977777719497681 + }, + "20": { + "covertype_test_loss": 0.5110405087471008, + "covertype_test_accuracy": 0.8075000047683716, + "covertype_test_precision": 0.8069549202919006, + "covertype_test_recall": 0.8075000047683716, + "covertype_test_f1-score": 0.8058211803436279, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8075000047683716 + }, + "50": { + "covertype_test_loss": 0.5023597478866577, + "covertype_test_accuracy": 0.8109999895095825, + "covertype_test_precision": 0.8116268515586853, + "covertype_test_recall": 0.8109999895095825, + "covertype_test_f1-score": 0.8087803721427917, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8109999895095825 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.564692497253418, + "lr": 6.18466583546251e-05, + "covertype_val_accuracy": 0.7907907962799072, + "covertype_val_precision": 0.7847110629081726, + "covertype_val_recall": 0.7907907962799072, + "covertype_val_f1-score": 0.787006676197052, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7907907962799072 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5728608965873718, + "lr": 6.184667290654033e-05, + "covertype_test_accuracy": 0.7914999723434448, + "covertype_test_precision": 0.7916897535324097, + "covertype_test_recall": 0.7914999723434448, + "covertype_test_f1-score": 0.7903733253479004, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7914999723434448 + }, + "5": { + "covertype_test_loss": 0.5363378524780273, + "covertype_test_accuracy": 0.7973684072494507, + "covertype_test_precision": 0.7979874610900879, + "covertype_test_recall": 0.7973684072494507, + "covertype_test_f1-score": 0.7964977025985718, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7973684072494507 + }, + "10": { + "covertype_test_loss": 0.5227677822113037, + "covertype_test_accuracy": 0.801111102104187, + "covertype_test_precision": 0.8007283806800842, + "covertype_test_recall": 0.801111102104187, + "covertype_test_f1-score": 0.7997874617576599, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.801111102104187 + }, + "20": { + "covertype_test_loss": 0.5022152066230774, + "covertype_test_accuracy": 0.8112499713897705, + "covertype_test_precision": 0.8110613822937012, + "covertype_test_recall": 0.8112499713897705, + "covertype_test_f1-score": 0.8099946975708008, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8112499713897705 + }, + "50": { + "covertype_test_loss": 0.5096097588539124, + "covertype_test_accuracy": 0.8119999766349792, + "covertype_test_precision": 0.8103996515274048, + "covertype_test_recall": 0.8119999766349792, + "covertype_test_f1-score": 0.8097792863845825, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8119999766349792 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5514860153198242, + "lr": 0.0, + "covertype_val_accuracy": 0.781781792640686, + "covertype_val_precision": 0.7729000449180603, + "covertype_val_recall": 0.781781792640686, + "covertype_val_f1-score": 0.7762766480445862, + "covertype_val_support": 999.0, + "covertype_val_score": 0.781781792640686 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5690314173698425, + "lr": 0.0, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7888599634170532, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7874528169631958, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7900000214576721 + }, + "5": { + "covertype_test_loss": 0.5368534922599792, + "covertype_test_accuracy": 0.796842098236084, + "covertype_test_precision": 0.7959929704666138, + "covertype_test_recall": 0.796842098236084, + "covertype_test_f1-score": 0.7945731282234192, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.796842098236084 + }, + "10": { + "covertype_test_loss": 0.5244543552398682, + "covertype_test_accuracy": 0.801111102104187, + "covertype_test_precision": 0.7991266846656799, + "covertype_test_recall": 0.801111102104187, + "covertype_test_f1-score": 0.798061192035675, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.801111102104187 + }, + "20": { + "covertype_test_loss": 0.5030000805854797, + "covertype_test_accuracy": 0.8125, + "covertype_test_precision": 0.8114902973175049, + "covertype_test_recall": 0.8125, + "covertype_test_f1-score": 0.810257613658905, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8125 + }, + "50": { + "covertype_test_loss": 0.5104884505271912, + "covertype_test_accuracy": 0.8130000233650208, + "covertype_test_precision": 0.8121917843818665, + "covertype_test_recall": 0.8130000233650208, + "covertype_test_f1-score": 0.8106852173805237, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8130000233650208 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5730425715446472, + "lr": 4.758647264679894e-05, + "covertype_val_accuracy": 0.781781792640686, + "covertype_val_precision": 0.7753583192825317, + "covertype_val_recall": 0.781781792640686, + "covertype_val_f1-score": 0.777438223361969, + "covertype_val_support": 999.0, + "covertype_val_score": 0.781781792640686 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5782148241996765, + "lr": 4.758647264679894e-05, + "covertype_test_accuracy": 0.784500002861023, + "covertype_test_precision": 0.7830727696418762, + "covertype_test_recall": 0.784500002861023, + "covertype_test_f1-score": 0.7819281816482544, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.784500002861023 + }, + "5": { + "covertype_test_loss": 0.5394440293312073, + "covertype_test_accuracy": 0.793684184551239, + "covertype_test_precision": 0.7903440594673157, + "covertype_test_recall": 0.793684184551239, + "covertype_test_f1-score": 0.790988564491272, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.793684184551239 + }, + "10": { + "covertype_test_loss": 0.5162481069564819, + "covertype_test_accuracy": 0.7977777719497681, + "covertype_test_precision": 0.7935512065887451, + "covertype_test_recall": 0.7977777719497681, + "covertype_test_f1-score": 0.7943240404129028, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7977777719497681 + }, + "20": { + "covertype_test_loss": 0.49553582072257996, + "covertype_test_accuracy": 0.8068749904632568, + "covertype_test_precision": 0.8057059645652771, + "covertype_test_recall": 0.8068749904632568, + "covertype_test_f1-score": 0.8038746118545532, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8068749904632568 + }, + "50": { + "covertype_test_loss": 0.49377116560935974, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.8007310628890991, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.7992699146270752, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5561369061470032, + "lr": 0.0, + "covertype_val_accuracy": 0.7757757902145386, + "covertype_val_precision": 0.7516496181488037, + "covertype_val_recall": 0.7757757902145386, + "covertype_val_f1-score": 0.760140597820282, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7757757902145386 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.575737476348877, + "lr": 0.0, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7987991571426392, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.7746065258979797, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5299779176712036, + "covertype_test_accuracy": 0.7957894802093506, + "covertype_test_precision": 0.8014928698539734, + "covertype_test_recall": 0.7957894802093506, + "covertype_test_f1-score": 0.7871432900428772, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7957894802093506 + }, + "10": { + "covertype_test_loss": 0.5152927041053772, + "covertype_test_accuracy": 0.8022222518920898, + "covertype_test_precision": 0.8032592535018921, + "covertype_test_recall": 0.8022222518920898, + "covertype_test_f1-score": 0.7959930896759033, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8022222518920898 + }, + "20": { + "covertype_test_loss": 0.49604251980781555, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8041792511940002, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8055968284606934, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8100000023841858 + }, + "50": { + "covertype_test_loss": 0.4898371398448944, + "covertype_test_accuracy": 0.8149999976158142, + "covertype_test_precision": 0.8149361610412598, + "covertype_test_recall": 0.8149999976158142, + "covertype_test_f1-score": 0.8116078972816467, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8149999976158142 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5774130702018738, + "std": 0.008442103732872425, + "n": 5, + "ci95": 0.010480575813557106 + }, + "lr": { + "mean": 2.2083956287133334e-05, + "std": 3.02156877816696e-05, + "n": 5, + "ci95": 3.751171705240463e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7872999906539917, + "std": 0.0033279137415150105, + "n": 5, + "ci95": 0.004131488237122048 + }, + "covertype_test_precision": { + "mean": 0.7895147919654846, + "std": 0.006162173771085169, + "n": 5, + "ci95": 0.007650122697816791 + }, + "covertype_test_recall": { + "mean": 0.7872999906539917, + "std": 0.0033279137415150105, + "n": 5, + "ci95": 0.004131488237122048 + }, + "covertype_test_f1-score": { + "mean": 0.7832999587059021, + "std": 0.00604326587094231, + "n": 5, + "ci95": 0.007502502708568675 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7872999906539917, + "std": 0.0033279137415150105, + "n": 5, + "ci95": 0.004131488237122048 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5372273206710816, + "std": 0.00495070814257158, + "n": 5, + "ci95": 0.006146130592659944 + }, + "covertype_test_accuracy": { + "mean": 0.795263147354126, + "std": 0.0020384168234633404, + "n": 5, + "ci95": 0.002530623021694234 + }, + "covertype_test_precision": { + "mean": 0.7956610441207885, + "std": 0.004412255868748803, + "n": 5, + "ci95": 0.0054776609722491446 + }, + "covertype_test_recall": { + "mean": 0.795263147354126, + "std": 0.0020384168234633404, + "n": 5, + "ci95": 0.002530623021694234 + }, + "covertype_test_f1-score": { + "mean": 0.7920194387435913, + "std": 0.003629089877421721, + "n": 5, + "ci95": 0.004505387850948572 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.795263147354126, + "std": 0.0020384168234633404, + "n": 5, + "ci95": 0.002530623021694234 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5220213890075683, + "std": 0.006557313180278385, + "n": 5, + "ci95": 0.008140674421180251 + }, + "covertype_test_accuracy": { + "mean": 0.8, + "std": 0.0020787071858627505, + "n": 5, + "ci95": 0.002580642094077633 + }, + "covertype_test_precision": { + "mean": 0.7985806107521057, + "std": 0.0037942638240334027, + "n": 5, + "ci95": 0.004710445514851399 + }, + "covertype_test_recall": { + "mean": 0.8, + "std": 0.0020787071858627505, + "n": 5, + "ci95": 0.002580642094077633 + }, + "covertype_test_f1-score": { + "mean": 0.7966891407966614, + "std": 0.0022105546439987814, + "n": 5, + "ci95": 0.0027443260909277047 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8, + "std": 0.0020787071858627505, + "n": 5, + "ci95": 0.002580642094077633 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5015668272972107, + "std": 0.006307064778745425, + "n": 5, + "ci95": 0.007829999804108792 + }, + "covertype_test_accuracy": { + "mean": 0.809624993801117, + "std": 0.0024044199400347823, + "n": 5, + "ci95": 0.0029850030592539004 + }, + "covertype_test_precision": { + "mean": 0.8078783631324769, + "std": 0.0032570374148011582, + "n": 5, + "ci95": 0.004043497762352292 + }, + "covertype_test_recall": { + "mean": 0.809624993801117, + "std": 0.0024044199400347823, + "n": 5, + "ci95": 0.0029850030592539004 + }, + "covertype_test_f1-score": { + "mean": 0.8071089863777161, + "std": 0.0028568963644694458, + "n": 5, + "ci95": 0.0035467366768673855 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.809624993801117, + "std": 0.0024044199400347823, + "n": 5, + "ci95": 0.0029850030592539004 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5012132525444031, + "std": 0.009255345286590095, + "n": 5, + "ci95": 0.011490186691149698 + }, + "covertype_test_accuracy": { + "mean": 0.8107999920845032, + "std": 0.004604357693350469, + "n": 5, + "ci95": 0.005716148652614969 + }, + "covertype_test_precision": { + "mean": 0.8099771022796631, + "std": 0.005428778536122343, + "n": 5, + "ci95": 0.006739638225634865 + }, + "covertype_test_recall": { + "mean": 0.8107999920845032, + "std": 0.004604357693350469, + "n": 5, + "ci95": 0.005716148652614969 + }, + "covertype_test_f1-score": { + "mean": 0.8080245375633239, + "std": 0.005005335554527605, + "n": 5, + "ci95": 0.006213948609426806 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8107999920845032, + "std": 0.004604357693350469, + "n": 5, + "ci95": 0.005716148652614969 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..4ca08fbb563035f7fb75af5a02ee526aa7fbbfbe --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpbc_5gdsj", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpbc_5gdsj/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5953397154808044, + "lr": 0.0, + "covertype_val_accuracy": 0.739739716053009, + "covertype_val_precision": 0.7400597929954529, + "covertype_val_recall": 0.739739716053009, + "covertype_val_f1-score": 0.7329660058021545, + "covertype_val_support": 999.0, + "covertype_val_score": 0.739739716053009 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5935904383659363, + "lr": 0.0, + "covertype_test_accuracy": 0.7354999780654907, + "covertype_test_precision": 0.7337436676025391, + "covertype_test_recall": 0.7354999780654907, + "covertype_test_f1-score": 0.7305749654769897, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7354999780654907 + }, + "5": { + "covertype_test_loss": 0.5704888105392456, + "covertype_test_accuracy": 0.7442105412483215, + "covertype_test_precision": 0.7412684559822083, + "covertype_test_recall": 0.7442105412483215, + "covertype_test_f1-score": 0.7401109933853149, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7442105412483215 + }, + "10": { + "covertype_test_loss": 0.5604734420776367, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.7471427321434021, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.7450198531150818, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.75 + }, + "20": { + "covertype_test_loss": 0.5342952013015747, + "covertype_test_accuracy": 0.7587500214576721, + "covertype_test_precision": 0.757257878780365, + "covertype_test_recall": 0.7587500214576721, + "covertype_test_f1-score": 0.7544763088226318, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7587500214576721 + }, + "50": { + "covertype_test_loss": 0.5341801643371582, + "covertype_test_accuracy": 0.7590000033378601, + "covertype_test_precision": 0.7587157487869263, + "covertype_test_recall": 0.7590000033378601, + "covertype_test_f1-score": 0.7555776834487915, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7590000033378601 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.583936333656311, + "lr": 0.0, + "covertype_val_accuracy": 0.7627627849578857, + "covertype_val_precision": 0.7584961652755737, + "covertype_val_recall": 0.7627627849578857, + "covertype_val_f1-score": 0.7552015781402588, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7627627849578857 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.565267026424408, + "lr": 0.0, + "covertype_test_accuracy": 0.7645000219345093, + "covertype_test_precision": 0.764583170413971, + "covertype_test_recall": 0.7645000219345093, + "covertype_test_f1-score": 0.762042760848999, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7645000219345093 + }, + "5": { + "covertype_test_loss": 0.5472112894058228, + "covertype_test_accuracy": 0.7726315855979919, + "covertype_test_precision": 0.7717353701591492, + "covertype_test_recall": 0.7726315855979919, + "covertype_test_f1-score": 0.770625650882721, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7726315855979919 + }, + "10": { + "covertype_test_loss": 0.5390805602073669, + "covertype_test_accuracy": 0.7755555510520935, + "covertype_test_precision": 0.7732048034667969, + "covertype_test_recall": 0.7755555510520935, + "covertype_test_f1-score": 0.7728589773178101, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7755555510520935 + }, + "20": { + "covertype_test_loss": 0.5183809399604797, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7830318212509155, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7827838063240051, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7850000262260437 + }, + "50": { + "covertype_test_loss": 0.5265293121337891, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.776679515838623, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.7754269242286682, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.777999997138977 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5948187112808228, + "lr": 0.0, + "covertype_val_accuracy": 0.7467467188835144, + "covertype_val_precision": 0.7449427247047424, + "covertype_val_recall": 0.7467467188835144, + "covertype_val_f1-score": 0.7410245537757874, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7467467188835144 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5788597464561462, + "lr": 0.0, + "covertype_test_accuracy": 0.7465000152587891, + "covertype_test_precision": 0.7464768886566162, + "covertype_test_recall": 0.7465000152587891, + "covertype_test_f1-score": 0.743770182132721, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7465000152587891 + }, + "5": { + "covertype_test_loss": 0.5587068200111389, + "covertype_test_accuracy": 0.7563157677650452, + "covertype_test_precision": 0.7568739056587219, + "covertype_test_recall": 0.7563157677650452, + "covertype_test_f1-score": 0.7545880675315857, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7563157677650452 + }, + "10": { + "covertype_test_loss": 0.5499705672264099, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7605476975440979, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.757293164730072, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7599999904632568 + }, + "20": { + "covertype_test_loss": 0.5284250974655151, + "covertype_test_accuracy": 0.7643749713897705, + "covertype_test_precision": 0.7641979455947876, + "covertype_test_recall": 0.7643749713897705, + "covertype_test_f1-score": 0.7619374394416809, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7643749713897705 + }, + "50": { + "covertype_test_loss": 0.5315546989440918, + "covertype_test_accuracy": 0.7580000162124634, + "covertype_test_precision": 0.7588715553283691, + "covertype_test_recall": 0.7580000162124634, + "covertype_test_f1-score": 0.7554925680160522, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7580000162124634 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5990468263626099, + "lr": 0.0, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.7285147905349731, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.7302302718162537, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5694550275802612, + "lr": 0.0, + "covertype_test_accuracy": 0.7609999775886536, + "covertype_test_precision": 0.760741114616394, + "covertype_test_recall": 0.7609999775886536, + "covertype_test_f1-score": 0.7555860280990601, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7609999775886536 + }, + "5": { + "covertype_test_loss": 0.5503966212272644, + "covertype_test_accuracy": 0.769473671913147, + "covertype_test_precision": 0.7692559957504272, + "covertype_test_recall": 0.769473671913147, + "covertype_test_f1-score": 0.7655329704284668, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.769473671913147 + }, + "10": { + "covertype_test_loss": 0.5407304167747498, + "covertype_test_accuracy": 0.7722222208976746, + "covertype_test_precision": 0.7713019847869873, + "covertype_test_recall": 0.7722222208976746, + "covertype_test_f1-score": 0.7673366069793701, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7722222208976746 + }, + "20": { + "covertype_test_loss": 0.5138986110687256, + "covertype_test_accuracy": 0.7887499928474426, + "covertype_test_precision": 0.78983074426651, + "covertype_test_recall": 0.7887499928474426, + "covertype_test_f1-score": 0.7853066325187683, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7887499928474426 + }, + "50": { + "covertype_test_loss": 0.5056723952293396, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.7902950644493103, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7895832657814026, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7919999957084656 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5982744097709656, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.748261570930481, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.747601330280304, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5852895379066467, + "lr": 0.0, + "covertype_test_accuracy": 0.7440000176429749, + "covertype_test_precision": 0.743695855140686, + "covertype_test_recall": 0.7440000176429749, + "covertype_test_f1-score": 0.7399305701255798, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7440000176429749 + }, + "5": { + "covertype_test_loss": 0.5652782320976257, + "covertype_test_accuracy": 0.7494736909866333, + "covertype_test_precision": 0.747852087020874, + "covertype_test_recall": 0.7494736909866333, + "covertype_test_f1-score": 0.7458192110061646, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7494736909866333 + }, + "10": { + "covertype_test_loss": 0.5572767853736877, + "covertype_test_accuracy": 0.7527777552604675, + "covertype_test_precision": 0.7507734298706055, + "covertype_test_recall": 0.7527777552604675, + "covertype_test_f1-score": 0.748206377029419, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7527777552604675 + }, + "20": { + "covertype_test_loss": 0.5313459634780884, + "covertype_test_accuracy": 0.7581250071525574, + "covertype_test_precision": 0.7587805390357971, + "covertype_test_recall": 0.7581250071525574, + "covertype_test_f1-score": 0.7548488974571228, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7581250071525574 + }, + "50": { + "covertype_test_loss": 0.5245227813720703, + "covertype_test_accuracy": 0.753000020980835, + "covertype_test_precision": 0.752525806427002, + "covertype_test_recall": 0.753000020980835, + "covertype_test_f1-score": 0.7515144944190979, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.753000020980835 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5784923553466796, + "std": 0.01152032330380917, + "n": 5, + "ci95": 0.014302077491907223 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7503000020980835, + "std": 0.012137755706188344, + "n": 5, + "ci95": 0.015068598172964983 + }, + "covertype_test_precision": { + "mean": 0.7498481392860412, + "std": 0.012692005289798016, + "n": 5, + "ci95": 0.015756679599640035 + }, + "covertype_test_recall": { + "mean": 0.7503000020980835, + "std": 0.012137755706188344, + "n": 5, + "ci95": 0.015068598172964983 + }, + "covertype_test_f1-score": { + "mean": 0.7463809013366699, + "std": 0.012532741499673558, + "n": 5, + "ci95": 0.015558959187812556 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7503000020980835, + "std": 0.012137755706188344, + "n": 5, + "ci95": 0.015068598172964983 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5584163546562195, + "std": 0.009782427289891404, + "n": 5, + "ci95": 0.01214454051933718 + }, + "covertype_test_accuracy": { + "mean": 0.7584210515022278, + "std": 0.012354409928454522, + "n": 5, + "ci95": 0.01533756679425144 + }, + "covertype_test_precision": { + "mean": 0.7573971629142762, + "std": 0.013207323370951589, + "n": 5, + "ci95": 0.016396428930911183 + }, + "covertype_test_recall": { + "mean": 0.7584210515022278, + "std": 0.012354409928454522, + "n": 5, + "ci95": 0.01533756679425144 + }, + "covertype_test_f1-score": { + "mean": 0.7553353786468506, + "std": 0.012851859109208838, + "n": 5, + "ci95": 0.01595513251214076 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7584210515022278, + "std": 0.012354409928454522, + "n": 5, + "ci95": 0.01533756679425144 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5495063543319703, + "std": 0.009573222667203618, + "n": 5, + "ci95": 0.01188482031475259 + }, + "covertype_test_accuracy": { + "mean": 0.7621111035346985, + "std": 0.011415284497249219, + "n": 5, + "ci95": 0.014171675496107232 + }, + "covertype_test_precision": { + "mean": 0.7605941295623779, + "std": 0.011737500273975696, + "n": 5, + "ci95": 0.014571695086384999 + }, + "covertype_test_recall": { + "mean": 0.7621111035346985, + "std": 0.011415284497249219, + "n": 5, + "ci95": 0.014171675496107232 + }, + "covertype_test_f1-score": { + "mean": 0.7581429958343506, + "std": 0.011966182326853118, + "n": 5, + "ci95": 0.014855595837692899 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7621111035346985, + "std": 0.011415284497249219, + "n": 5, + "ci95": 0.014171675496107232 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5252691626548767, + "std": 0.008733468121064515, + "n": 5, + "ci95": 0.010842294486584933 + }, + "covertype_test_accuracy": { + "mean": 0.7710000038146972, + "std": 0.014754502699258069, + "n": 5, + "ci95": 0.01831719782461052 + }, + "covertype_test_precision": { + "mean": 0.770619785785675, + "std": 0.014858229235032506, + "n": 5, + "ci95": 0.018445970682237058 + }, + "covertype_test_recall": { + "mean": 0.7710000038146972, + "std": 0.014754502699258069, + "n": 5, + "ci95": 0.01831719782461052 + }, + "covertype_test_f1-score": { + "mean": 0.7678706169128418, + "std": 0.015088017765155176, + "n": 5, + "ci95": 0.018731245086253064 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7710000038146972, + "std": 0.014754502699258069, + "n": 5, + "ci95": 0.01831719782461052 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5244918704032898, + "std": 0.011203474421601287, + "n": 5, + "ci95": 0.013908720713016914 + }, + "covertype_test_accuracy": { + "mean": 0.7680000066757202, + "std": 0.01644687449814256, + "n": 5, + "ci95": 0.020418218080245295 + }, + "covertype_test_precision": { + "mean": 0.7674175381660462, + "std": 0.015649952671628473, + "n": 5, + "ci95": 0.0194288675718244 + }, + "covertype_test_recall": { + "mean": 0.7680000066757202, + "std": 0.01644687449814256, + "n": 5, + "ci95": 0.020418218080245295 + }, + "covertype_test_f1-score": { + "mean": 0.7655189871788025, + "std": 0.01637636360569535, + "n": 5, + "ci95": 0.020330681279305856 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7680000066757202, + "std": 0.01644687449814256, + "n": 5, + "ci95": 0.020418218080245295 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..68882d158f6f526d3e3a263b0bfd0fc9e4779bf8 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmprlj878de", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmprlj878de/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.7451523542404175, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6526526808738708, + "covertype_val_precision": 0.6482092142105103, + "covertype_val_recall": 0.6526526808738708, + "covertype_val_f1-score": 0.5981199741363525, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6526526808738708 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7587243914604187, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6434999704360962, + "covertype_test_precision": 0.6455551981925964, + "covertype_test_recall": 0.6434999704360962, + "covertype_test_f1-score": 0.5839862823486328, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6434999704360962 + }, + "5": { + "covertype_test_loss": 0.7404295802116394, + "covertype_test_accuracy": 0.648421049118042, + "covertype_test_precision": 0.6574066877365112, + "covertype_test_recall": 0.648421049118042, + "covertype_test_f1-score": 0.5891152024269104, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.648421049118042 + }, + "10": { + "covertype_test_loss": 0.7341629862785339, + "covertype_test_accuracy": 0.6516666412353516, + "covertype_test_precision": 0.665145993232727, + "covertype_test_recall": 0.6516666412353516, + "covertype_test_f1-score": 0.5933207869529724, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6516666412353516 + }, + "20": { + "covertype_test_loss": 0.7220938801765442, + "covertype_test_accuracy": 0.6493750214576721, + "covertype_test_precision": 0.6654161214828491, + "covertype_test_recall": 0.6493750214576721, + "covertype_test_f1-score": 0.5901918411254883, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6493750214576721 + }, + "50": { + "covertype_test_loss": 0.7219018936157227, + "covertype_test_accuracy": 0.6439999938011169, + "covertype_test_precision": 0.6703885197639465, + "covertype_test_recall": 0.6439999938011169, + "covertype_test_f1-score": 0.5825217366218567, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6439999938011169 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6526762843132019, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7087087035179138, + "covertype_val_precision": 0.7040522694587708, + "covertype_val_recall": 0.7087087035179138, + "covertype_val_f1-score": 0.689596951007843, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7087087035179138 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6576996445655823, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6980000138282776, + "covertype_test_precision": 0.6966467499732971, + "covertype_test_recall": 0.6980000138282776, + "covertype_test_f1-score": 0.6790457367897034, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6980000138282776 + }, + "5": { + "covertype_test_loss": 0.6417975425720215, + "covertype_test_accuracy": 0.706315815448761, + "covertype_test_precision": 0.7068783044815063, + "covertype_test_recall": 0.706315815448761, + "covertype_test_f1-score": 0.6873886585235596, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.706315815448761 + }, + "10": { + "covertype_test_loss": 0.6346243023872375, + "covertype_test_accuracy": 0.7099999785423279, + "covertype_test_precision": 0.7092304229736328, + "covertype_test_recall": 0.7099999785423279, + "covertype_test_f1-score": 0.6892147660255432, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7099999785423279 + }, + "20": { + "covertype_test_loss": 0.6210559010505676, + "covertype_test_accuracy": 0.7124999761581421, + "covertype_test_precision": 0.7151445746421814, + "covertype_test_recall": 0.7124999761581421, + "covertype_test_f1-score": 0.6908469796180725, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7124999761581421 + }, + "50": { + "covertype_test_loss": 0.5964671969413757, + "covertype_test_accuracy": 0.7179999947547913, + "covertype_test_precision": 0.730155348777771, + "covertype_test_recall": 0.7179999947547913, + "covertype_test_f1-score": 0.6945012807846069, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7179999947547913 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6679664254188538, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7117117047309875, + "covertype_val_precision": 0.7083477973937988, + "covertype_val_recall": 0.7117117047309875, + "covertype_val_f1-score": 0.7027697563171387, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7117117047309875 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6965814232826233, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7124999761581421, + "covertype_test_precision": 0.7091813683509827, + "covertype_test_recall": 0.7124999761581421, + "covertype_test_f1-score": 0.7047130465507507, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7124999761581421 + }, + "5": { + "covertype_test_loss": 0.6793206930160522, + "covertype_test_accuracy": 0.7142105102539062, + "covertype_test_precision": 0.7115046381950378, + "covertype_test_recall": 0.7142105102539062, + "covertype_test_f1-score": 0.707014799118042, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7142105102539062 + }, + "10": { + "covertype_test_loss": 0.6747326850891113, + "covertype_test_accuracy": 0.7161111235618591, + "covertype_test_precision": 0.7140312194824219, + "covertype_test_recall": 0.7161111235618591, + "covertype_test_f1-score": 0.7092382907867432, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7161111235618591 + }, + "20": { + "covertype_test_loss": 0.6581799983978271, + "covertype_test_accuracy": 0.721875011920929, + "covertype_test_precision": 0.7189748883247375, + "covertype_test_recall": 0.721875011920929, + "covertype_test_f1-score": 0.7154322862625122, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.721875011920929 + }, + "50": { + "covertype_test_loss": 0.5747286081314087, + "covertype_test_accuracy": 0.7440000176429749, + "covertype_test_precision": 0.7343708872795105, + "covertype_test_recall": 0.7440000176429749, + "covertype_test_f1-score": 0.7385914325714111, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7440000176429749 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.8178880214691162, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.642642617225647, + "covertype_val_precision": 0.6745361089706421, + "covertype_val_recall": 0.642642617225647, + "covertype_val_f1-score": 0.6252068877220154, + "covertype_val_support": 999.0, + "covertype_val_score": 0.642642617225647 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7962392568588257, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6399999856948853, + "covertype_test_precision": 0.6698876619338989, + "covertype_test_recall": 0.6399999856948853, + "covertype_test_f1-score": 0.6197327375411987, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6399999856948853 + }, + "5": { + "covertype_test_loss": 0.7811011672019958, + "covertype_test_accuracy": 0.6447368264198303, + "covertype_test_precision": 0.6803591847419739, + "covertype_test_recall": 0.6447368264198303, + "covertype_test_f1-score": 0.6260338425636292, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6447368264198303 + }, + "10": { + "covertype_test_loss": 0.7784629464149475, + "covertype_test_accuracy": 0.6438888907432556, + "covertype_test_precision": 0.6859697699546814, + "covertype_test_recall": 0.6438888907432556, + "covertype_test_f1-score": 0.6263999938964844, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6438888907432556 + }, + "20": { + "covertype_test_loss": 0.74794602394104, + "covertype_test_accuracy": 0.6487500071525574, + "covertype_test_precision": 0.7017741203308105, + "covertype_test_recall": 0.6487500071525574, + "covertype_test_f1-score": 0.6320692300796509, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6487500071525574 + }, + "50": { + "covertype_test_loss": 0.694199800491333, + "covertype_test_accuracy": 0.6510000228881836, + "covertype_test_precision": 0.708366870880127, + "covertype_test_recall": 0.6510000228881836, + "covertype_test_f1-score": 0.6347906589508057, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6510000228881836 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.8957003951072693, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6336336135864258, + "covertype_val_precision": 0.6745713949203491, + "covertype_val_recall": 0.6336336135864258, + "covertype_val_f1-score": 0.6222491264343262, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6336336135864258 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.8711293339729309, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6345000267028809, + "covertype_test_precision": 0.6716848611831665, + "covertype_test_recall": 0.6345000267028809, + "covertype_test_f1-score": 0.619682788848877, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6345000267028809 + }, + "5": { + "covertype_test_loss": 0.8645390868186951, + "covertype_test_accuracy": 0.6394736766815186, + "covertype_test_precision": 0.6866372227668762, + "covertype_test_recall": 0.6394736766815186, + "covertype_test_f1-score": 0.6242557168006897, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6394736766815186 + }, + "10": { + "covertype_test_loss": 0.8659791946411133, + "covertype_test_accuracy": 0.6405555605888367, + "covertype_test_precision": 0.684272825717926, + "covertype_test_recall": 0.6405555605888367, + "covertype_test_f1-score": 0.6235537528991699, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6405555605888367 + }, + "20": { + "covertype_test_loss": 0.8323822617530823, + "covertype_test_accuracy": 0.6474999785423279, + "covertype_test_precision": 0.6997711062431335, + "covertype_test_recall": 0.6474999785423279, + "covertype_test_f1-score": 0.6312597393989563, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6474999785423279 + }, + "50": { + "covertype_test_loss": 0.81867915391922, + "covertype_test_accuracy": 0.6380000114440918, + "covertype_test_precision": 0.7074146270751953, + "covertype_test_recall": 0.6380000114440918, + "covertype_test_f1-score": 0.6195755004882812, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6380000114440918 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.7560748100280762, + "std": 0.0837778055295389, + "n": 5, + "ci95": 0.10400720840787668 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.6656999945640564, + "std": 0.03660703157650077, + "n": 5, + "ci95": 0.045446346300254944 + }, + "covertype_test_precision": { + "mean": 0.6785911679267883, + "std": 0.024882663596941804, + "n": 5, + "ci95": 0.030890954496984625 + }, + "covertype_test_recall": { + "mean": 0.6656999945640564, + "std": 0.03660703157650077, + "n": 5, + "ci95": 0.045446346300254944 + }, + "covertype_test_f1-score": { + "mean": 0.6414321184158325, + "std": 0.04915073931591958, + "n": 5, + "ci95": 0.06101891969024702 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6656999945640564, + "std": 0.03660703157650077, + "n": 5, + "ci95": 0.045446346300254944 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.7414376139640808, + "std": 0.08734248951907174, + "n": 5, + "ci95": 0.10843263860701029 + }, + "covertype_test_accuracy": { + "mean": 0.6706315755844117, + "std": 0.036425089930833716, + "n": 5, + "ci95": 0.04522047212583183 + }, + "covertype_test_precision": { + "mean": 0.6885572075843811, + "std": 0.021814536266910264, + "n": 5, + "ci95": 0.02708198198189553 + }, + "covertype_test_recall": { + "mean": 0.6706315755844117, + "std": 0.036425089930833716, + "n": 5, + "ci95": 0.04522047212583183 + }, + "covertype_test_f1-score": { + "mean": 0.6467616438865662, + "std": 0.04883714710213491, + "n": 5, + "ci95": 0.06062960595102893 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6706315755844117, + "std": 0.036425089930833716, + "n": 5, + "ci95": 0.04522047212583183 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.7375924229621887, + "std": 0.09044211458940975, + "n": 5, + "ci95": 0.112280714462414 + }, + "covertype_test_accuracy": { + "mean": 0.6724444389343261, + "std": 0.03735383070534435, + "n": 5, + "ci95": 0.046373471236764156 + }, + "covertype_test_precision": { + "mean": 0.6917300462722779, + "std": 0.01999442615392558, + "n": 5, + "ci95": 0.024822379087669138 + }, + "covertype_test_recall": { + "mean": 0.6724444389343261, + "std": 0.03735383070534435, + "n": 5, + "ci95": 0.046373471236764156 + }, + "covertype_test_f1-score": { + "mean": 0.6483455181121827, + "std": 0.04873957294545608, + "n": 5, + "ci95": 0.060508471056354006 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6724444389343261, + "std": 0.03735383070534435, + "n": 5, + "ci95": 0.046373471236764156 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.7163316130638122, + "std": 0.0820967407186256, + "n": 5, + "ci95": 0.10192022538139768 + }, + "covertype_test_accuracy": { + "mean": 0.6759999990463257, + "std": 0.0377507211651088, + "n": 5, + "ci95": 0.04686619682802192 + }, + "covertype_test_precision": { + "mean": 0.7002161622047425, + "std": 0.021144830610129322, + "n": 5, + "ci95": 0.026250565888140363 + }, + "covertype_test_recall": { + "mean": 0.6759999990463257, + "std": 0.0377507211651088, + "n": 5, + "ci95": 0.04686619682802192 + }, + "covertype_test_f1-score": { + "mean": 0.651960015296936, + "std": 0.05044892782539541, + "n": 5, + "ci95": 0.06263057521171035 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6759999990463257, + "std": 0.0377507211651088, + "n": 5, + "ci95": 0.04686619682802192 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.681195330619812, + "std": 0.09904791998151176, + "n": 5, + "ci95": 0.12296452014670581 + }, + "covertype_test_accuracy": { + "mean": 0.6790000081062317, + "std": 0.04856953803112904, + "n": 5, + "ci95": 0.060297378671452705 + }, + "covertype_test_precision": { + "mean": 0.71013925075531, + "std": 0.02538947571166877, + "n": 5, + "ci95": 0.031520143969146895 + }, + "covertype_test_recall": { + "mean": 0.6790000081062317, + "std": 0.04856953803112904, + "n": 5, + "ci95": 0.060297378671452705 + }, + "covertype_test_f1-score": { + "mean": 0.6539961218833923, + "std": 0.062167618621373204, + "n": 5, + "ci95": 0.07717891899060042 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6790000081062317, + "std": 0.04856953803112904, + "n": 5, + "ci95": 0.060297378671452705 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..91769d2589055b7860cafef46b454d29bb686c8d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp3fptk0c0", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp3fptk0c0/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.594142735004425, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.7530683875083923, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7501882910728455, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5723715424537659, + "lr": 0.0, + "covertype_test_accuracy": 0.7634999752044678, + "covertype_test_precision": 0.7673039436340332, + "covertype_test_recall": 0.7634999752044678, + "covertype_test_f1-score": 0.7645227909088135, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7634999752044678 + }, + "5": { + "covertype_test_loss": 0.5429313778877258, + "covertype_test_accuracy": 0.7715789675712585, + "covertype_test_precision": 0.7769905924797058, + "covertype_test_recall": 0.7715789675712585, + "covertype_test_f1-score": 0.7722143530845642, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7715789675712585 + }, + "10": { + "covertype_test_loss": 0.5266965627670288, + "covertype_test_accuracy": 0.7777777910232544, + "covertype_test_precision": 0.7811347842216492, + "covertype_test_recall": 0.7777777910232544, + "covertype_test_f1-score": 0.7779775261878967, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7777777910232544 + }, + "20": { + "covertype_test_loss": 0.5051740407943726, + "covertype_test_accuracy": 0.784375011920929, + "covertype_test_precision": 0.7863398790359497, + "covertype_test_recall": 0.784375011920929, + "covertype_test_f1-score": 0.7847481966018677, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.784375011920929 + }, + "50": { + "covertype_test_loss": 0.5010607838630676, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7840942740440369, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.779630184173584, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6058229804039001, + "lr": 0.0, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7458134889602661, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.746654748916626, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5583197474479675, + "lr": 0.0, + "covertype_test_accuracy": 0.7879999876022339, + "covertype_test_precision": 0.7863380312919617, + "covertype_test_recall": 0.7879999876022339, + "covertype_test_f1-score": 0.7850701212882996, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7879999876022339 + }, + "5": { + "covertype_test_loss": 0.5385075211524963, + "covertype_test_accuracy": 0.7942105531692505, + "covertype_test_precision": 0.7929401397705078, + "covertype_test_recall": 0.7942105531692505, + "covertype_test_f1-score": 0.79190593957901, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7942105531692505 + }, + "10": { + "covertype_test_loss": 0.5256969332695007, + "covertype_test_accuracy": 0.7983333468437195, + "covertype_test_precision": 0.7969057559967041, + "covertype_test_recall": 0.7983333468437195, + "covertype_test_f1-score": 0.7958005666732788, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7983333468437195 + }, + "20": { + "covertype_test_loss": 0.5004327893257141, + "covertype_test_accuracy": 0.8043749928474426, + "covertype_test_precision": 0.8032694458961487, + "covertype_test_recall": 0.8043749928474426, + "covertype_test_f1-score": 0.8023911118507385, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8043749928474426 + }, + "50": { + "covertype_test_loss": 0.49118170142173767, + "covertype_test_accuracy": 0.8009999990463257, + "covertype_test_precision": 0.8060187101364136, + "covertype_test_recall": 0.8009999990463257, + "covertype_test_f1-score": 0.7993607521057129, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8009999990463257 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6119688153266907, + "lr": 0.0, + "covertype_val_accuracy": 0.7427427172660828, + "covertype_val_precision": 0.7416443228721619, + "covertype_val_recall": 0.7427427172660828, + "covertype_val_f1-score": 0.7367311120033264, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7427427172660828 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5788147449493408, + "lr": 0.0, + "covertype_test_accuracy": 0.7605000138282776, + "covertype_test_precision": 0.7660687565803528, + "covertype_test_recall": 0.7605000138282776, + "covertype_test_f1-score": 0.7590736150741577, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7605000138282776 + }, + "5": { + "covertype_test_loss": 0.5531032085418701, + "covertype_test_accuracy": 0.7652631402015686, + "covertype_test_precision": 0.7717990875244141, + "covertype_test_recall": 0.7652631402015686, + "covertype_test_f1-score": 0.7642545700073242, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7652631402015686 + }, + "10": { + "covertype_test_loss": 0.5423393845558167, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7754992842674255, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7681469917297363, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7699999809265137 + }, + "20": { + "covertype_test_loss": 0.5053998827934265, + "covertype_test_accuracy": 0.7787500023841858, + "covertype_test_precision": 0.7862369418144226, + "covertype_test_recall": 0.7787500023841858, + "covertype_test_f1-score": 0.7783446907997131, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7787500023841858 + }, + "50": { + "covertype_test_loss": 0.5197738409042358, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.7784855365753174, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7724481225013733, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7730000019073486 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5851932168006897, + "lr": 0.0, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7681753039360046, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7684117555618286, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5601950287818909, + "lr": 0.0, + "covertype_test_accuracy": 0.7795000076293945, + "covertype_test_precision": 0.7801461219787598, + "covertype_test_recall": 0.7795000076293945, + "covertype_test_f1-score": 0.7794183492660522, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7795000076293945 + }, + "5": { + "covertype_test_loss": 0.5328342914581299, + "covertype_test_accuracy": 0.7873684167861938, + "covertype_test_precision": 0.7893003225326538, + "covertype_test_recall": 0.7873684167861938, + "covertype_test_f1-score": 0.7871360778808594, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7873684167861938 + }, + "10": { + "covertype_test_loss": 0.5226064920425415, + "covertype_test_accuracy": 0.7922222018241882, + "covertype_test_precision": 0.7916750311851501, + "covertype_test_recall": 0.7922222018241882, + "covertype_test_f1-score": 0.7912557125091553, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7922222018241882 + }, + "20": { + "covertype_test_loss": 0.49319198727607727, + "covertype_test_accuracy": 0.8018749952316284, + "covertype_test_precision": 0.800101101398468, + "covertype_test_recall": 0.8018749952316284, + "covertype_test_f1-score": 0.8005421161651611, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8018749952316284 + }, + "50": { + "covertype_test_loss": 0.49558547139167786, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.8010017275810242, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.8008299469947815, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5920760035514832, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.746414065361023, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7478482723236084, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5710963606834412, + "lr": 0.0, + "covertype_test_accuracy": 0.7684999704360962, + "covertype_test_precision": 0.7713376879692078, + "covertype_test_recall": 0.7684999704360962, + "covertype_test_f1-score": 0.7691057920455933, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7684999704360962 + }, + "5": { + "covertype_test_loss": 0.541471004486084, + "covertype_test_accuracy": 0.7736842036247253, + "covertype_test_precision": 0.7756297588348389, + "covertype_test_recall": 0.7736842036247253, + "covertype_test_f1-score": 0.7744099497795105, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7736842036247253 + }, + "10": { + "covertype_test_loss": 0.5281897187232971, + "covertype_test_accuracy": 0.7794444561004639, + "covertype_test_precision": 0.7793725728988647, + "covertype_test_recall": 0.7794444561004639, + "covertype_test_f1-score": 0.7792851328849792, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7794444561004639 + }, + "20": { + "covertype_test_loss": 0.5055930614471436, + "covertype_test_accuracy": 0.7875000238418579, + "covertype_test_precision": 0.7884770631790161, + "covertype_test_recall": 0.7875000238418579, + "covertype_test_f1-score": 0.787814199924469, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7875000238418579 + }, + "50": { + "covertype_test_loss": 0.49835270643234253, + "covertype_test_accuracy": 0.7829999923706055, + "covertype_test_precision": 0.7822398543357849, + "covertype_test_recall": 0.7829999923706055, + "covertype_test_f1-score": 0.7822884917259216, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7829999923706055 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5681594848632813, + "std": 0.008662479860076072, + "n": 5, + "ci95": 0.010754165049337563 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.771999990940094, + "std": 0.011500000305813843, + "n": 5, + "ci95": 0.014276847202397821 + }, + "covertype_test_precision": { + "mean": 0.7742389082908631, + "std": 0.008725625250794445, + "n": 5, + "ci95": 0.010832557838106983 + }, + "covertype_test_recall": { + "mean": 0.771999990940094, + "std": 0.011500000305813843, + "n": 5, + "ci95": 0.014276847202397821 + }, + "covertype_test_f1-score": { + "mean": 0.7714381337165832, + "std": 0.010673073953289099, + "n": 5, + "ci95": 0.013250247126860131 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.771999990940094, + "std": 0.011500000305813843, + "n": 5, + "ci95": 0.014276847202397821 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5417694807052612, + "std": 0.007422440077162672, + "n": 5, + "ci95": 0.009214699133271548 + }, + "covertype_test_accuracy": { + "mean": 0.7784210562705993, + "std": 0.01195560724667051, + "n": 5, + "ci95": 0.014842467246396785 + }, + "covertype_test_precision": { + "mean": 0.7813319802284241, + "std": 0.009226088916006014, + "n": 5, + "ci95": 0.011453865932765499 + }, + "covertype_test_recall": { + "mean": 0.7784210562705993, + "std": 0.01195560724667051, + "n": 5, + "ci95": 0.014842467246396785 + }, + "covertype_test_f1-score": { + "mean": 0.7779841780662536, + "std": 0.011315264462790376, + "n": 5, + "ci95": 0.014047504129918177 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7784210562705993, + "std": 0.01195560724667051, + "n": 5, + "ci95": 0.014842467246396785 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5291058182716369, + "std": 0.007675167188028025, + "n": 5, + "ci95": 0.009528450981078369 + }, + "covertype_test_accuracy": { + "mean": 0.783555555343628, + "std": 0.011484023447229139, + "n": 5, + "ci95": 0.01425701249259587 + }, + "covertype_test_precision": { + "mean": 0.7849174857139587, + "std": 0.008988053910076555, + "n": 5, + "ci95": 0.011158353818147669 + }, + "covertype_test_recall": { + "mean": 0.783555555343628, + "std": 0.011484023447229139, + "n": 5, + "ci95": 0.01425701249259587 + }, + "covertype_test_f1-score": { + "mean": 0.7824931859970092, + "std": 0.011072085729152258, + "n": 5, + "ci95": 0.013745606257683441 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.783555555343628, + "std": 0.011484023447229139, + "n": 5, + "ci95": 0.01425701249259587 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5019583523273468, + "std": 0.005351924731709177, + "n": 5, + "ci95": 0.006644226921865156 + }, + "covertype_test_accuracy": { + "mean": 0.7913750052452088, + "std": 0.011209990544490461, + "n": 5, + "ci95": 0.013916810251135777 + }, + "covertype_test_precision": { + "mean": 0.792884886264801, + "std": 0.008160484498315518, + "n": 5, + "ci95": 0.010130955407113068 + }, + "covertype_test_recall": { + "mean": 0.7913750052452088, + "std": 0.011209990544490461, + "n": 5, + "ci95": 0.013916810251135777 + }, + "covertype_test_f1-score": { + "mean": 0.7907680630683899, + "std": 0.010367396674301354, + "n": 5, + "ci95": 0.012870759501703593 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7913750052452088, + "std": 0.011209990544490461, + "n": 5, + "ci95": 0.013916810251135777 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5011909008026123, + "std": 0.011011390144402586, + "n": 5, + "ci95": 0.013670254817136681 + }, + "covertype_test_accuracy": { + "mean": 0.7877999901771545, + "std": 0.013461049892074266, + "n": 5, + "ci95": 0.016711421511514255 + }, + "covertype_test_precision": { + "mean": 0.7903680205345154, + "std": 0.012294716511448207, + "n": 5, + "ci95": 0.015263459509823166 + }, + "covertype_test_recall": { + "mean": 0.7877999901771545, + "std": 0.013461049892074266, + "n": 5, + "ci95": 0.016711421511514255 + }, + "covertype_test_f1-score": { + "mean": 0.7869114995002746, + "std": 0.012572649870573549, + "n": 5, + "ci95": 0.015608504031141626 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7877999901771545, + "std": 0.013461049892074266, + "n": 5, + "ci95": 0.016711421511514255 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..820ffff00fc7894e9a8f65cc8d099da13da85ba3 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:fb5b9ba5f21a70296bb10d73e14eea8fac2e150faca8610ef186d644811f06b8 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..cca28f9d5ee9421b046a845e7e4197eb48165149 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d0f4739f5bc842905dd3eb2dc773a1133d746a689a663b22d5be1191f7f6c365 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..0688872dc3303c8e968a9f4fce99cbff52d6d48f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:bc67d26e5f949fc3cc7d1b60c2203df0307546347a5dca48ff7a28a5225d5427 +size 11498832 diff --git a/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..cc11584727eaa6b7e03afc1e9c2943f0e7045bdc --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/vtjepa_config.yaml @@ -0,0 +1,129 @@ +activation_checkpointing: false +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 65536 +sw_include_marginals: true +sw_marginal_num_projections: 32768 +sw_p: 2 +sw_s_x_weight: 0.00075 +sw_s_y_weight: 7.5e-05 +sw_seed: 0 +sw_z_weight: 7.5e-05 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001875 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/run.log b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/run.log new file mode 100644 index 0000000000000000000000000000000000000000..7f5bf915997e925e19f59e1278decc7a7177b4cc --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/run.log @@ -0,0 +1,19929 @@ +{ + "dataset": "covertype", + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001875", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--wjepa_s_x_start_epoch", + "0", + "--wjepa_s_x_annealing_epochs", + "30", + "--wjepa_z_start_epoch", + "0", + "--wjepa_z_annealing_epochs", + "30", + "--wjepa_s_y_start_epoch", + "0", + "--wjepa_s_y_annealing_epochs", + "30", + "--sw_full_num_projections", + "65536", + "--sw_marginal_num_projections", + "32768", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00075", + "--sw_z_weight", + "7.5e-05", + "--sw_s_y_weight", + "7.5e-05", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} +Not SLURM job. +╒══════════════════════════════════════════════════════════╤═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ mock │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ activation_checkpointing │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 42 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 42 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_seed │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_seed │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ deterministic_mode │ warn │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pre_evaluation │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 512 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 500 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 15 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ improvement │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_val_cache_cadence │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ init_type │ trunc_normal │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_start_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_lr │ 0.0005 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_lr │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 12 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_final_weight_decay │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_ipe_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_gradient_clipping │ 1.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_type_embedding │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_feature_index_embedding │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dropout_prob │ 0.0015 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_hidden │ 64 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dim_feedforward │ 64 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_heads │ 8 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_num_layers │ 8 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_act_func │ relu │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_cadence │ 2 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_model │ linear_probe │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ n_cls_tokens │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_type │ transformer │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_layers │ 16 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_embed_dim │ 16 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_num_heads │ 4 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_p_dropout │ 0.002 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_layer_norm_eps │ 1e-05 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_activation │ relu │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pred_dim_feedforward │ 256 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_allow_overlap │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_ctx_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_ctx_share │ 0.35 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_min_trgt_share │ 0.15 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_max_trgt_share │ 0.6 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_preds │ 4 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mask_num_encs │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mu_init_std │ 0.03 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_std │ 0.005 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ logvar_init_bias │ -4.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_x_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_sigma_y_init │ -2.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_evaluation_epochs │ 50 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ downstream_probe_patience │ 20 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_representation_type │ mean │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ probe_encoder_type │ target_posterior │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_target_posterior │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pooled_context_representation_size_for_auxiliary_encoder │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_end_weight │ 1e-05 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_end_weight │ 1e-06 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_annealing_epochs │ 20 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_x_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_z_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ vtjepa_kl_y_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_x_weight │ 0.001 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ recon_y_weight │ 0.5 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ jepa_objective │ w_jepa_joint │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_full_num_projections │ 65536 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_marginal_num_projections │ 32768 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_p │ 2 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_include_marginals │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_x_weight │ 0.00075 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_z_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sw_s_y_weight │ 7.5e-05 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_weight │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_end_weight │ 0.001875 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_start_epoch │ 1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_joint_annealing_epochs │ 60 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_marginal_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_x_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_z_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_scale │ 0.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_end_scale │ 1.0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_start_epoch │ 0 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ wjepa_s_y_annealing_epochs │ 30 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ safe_exit │ False │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_selection │ filtered_20 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ sigma_aggregation │ mean │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ subset_size │ -1 │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ is_batchlearning │ True │ +├──────────────────────────────────────────────────────────┼───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ iteration │ 0 │ +╘══════════════════════════════════════════════════════════╧═══════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ + +CUDA Device Information: +CUDA_VISIBLE_DEVICES: 2 +Number of CUDA devices: 1 +Current CUDA device: 0 +CUDA device name: NVIDIA A100-SXM4-80GB + +Using device: cuda:0 +Device name: NVIDIA A100-SXM4-80GB +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +Encoder Module parameters: ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| Parameter | Value | ++===================+================================================================================================================================================================================================================+ +| hidden_dim | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_num_features | [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| idx_cat_features | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| cardinalities | [] | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| n_input_features | 54 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| device | cuda:0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_layers | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| num_heads | 8 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| p_dropout | 0.0015 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| layer_norm_eps | 1e-05 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| gradient_clipping | 1.0 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +| dim_feedforward | 64 | ++-------------------+----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+ +VariationalTJEPA parameters: ++-------------------------+---------+ +| Parameter | Value | ++=========================+=========+ +| hidden_dim | 64 | ++-------------------------+---------+ +| num_layers | 8 | ++-------------------------+---------+ +| num_heads | 8 | ++-------------------------+---------+ +| p_dropout | 0.0015 | ++-------------------------+---------+ +| layer_norm_eps | 1e-05 | ++-------------------------+---------+ +| feature_type_embedding | True | ++-------------------------+---------+ +| feature_index_embedding | True | ++-------------------------+---------+ +| dim_feedforward | 64 | ++-------------------------+---------+ +| use_reg_token | True | ++-------------------------+---------+ +| gradient_clipping | 1.0 | ++-------------------------+---------+ +| activation | gelu | ++-------------------------+---------+ +| num_features | 54 | ++-------------------------+---------+ +| n_cls_tokens | 1 | ++-------------------------+---------+ +MaskCollator params: +----------------- ----- +Allow overlap False +Min context share 0.15 +Max context share 0.35 +Min target share 0.15 +Max target share 0.6 +Min context 8 +Max context 18 +Min target 8 +Max target 32 +Num preds 4 +Num encs 1 +Num features 54 +Cardinalities [] +Base mask seed 0 +----------------- ----- +KL-x annealing: start=0.0 for 20 steps, then anneal to 1e-06 over 1200 steps. +KL-z annealing: start=0.0 for 20 steps, then anneal to 1e-05 over 1200 steps. +KL-y annealing: start=0.0 for 20 steps, then anneal to 1e-06 over 400 steps. +W-JEPA marginal-scale annealing (s_x): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (z): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +W-JEPA marginal-scale annealing (s_y): start=0.0, end=1.0, start_epoch=0, anneal_epochs=30. +Configuration saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/vtjepa_config.yaml +All results will be saved to: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004 +[VTJEPA] Running downstream probe before training begins +Using full dataset for embedding generation: covertype +Generating embedding using: TargetPosteriorEncoder on full dataset + 0%| | 0/20 [00:00= 15) +[VTJEPA] Early stopping triggered at epoch 74 + Best downstream validation score: 0.758750 at epoch 43 + No improvement for 15 probe evaluations +Restored best downstream-selected checkpoint from epoch 43. +Training completed. +[Config] Loaded sigma_aggregation=mean from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/vtjepa_config.yaml +[Config] Loaded training data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 from /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/vtjepa_config.yaml +Split statistics: + val: 999 samples + test: 2000 samples + train: 7001 samples +Running downstream for dataset 'covertype', model 'mlp'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmprlj878de/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmprlj878de/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmprlj878de/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmprlj878de/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 28/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 260.71it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.6526526808738708 │ +│ covertype_val_f1-score │ 0.5981199741363525 │ +│ covertype_val_loss │ 0.7451523542404175 │ +│ covertype_val_precision │ 0.6482092142105103 │ +│ covertype_val_recall │ 0.6526526808738708 │ +│ covertype_val_score │ 0.6526526808738708 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 581.57it/s +Validation metrics: [{'covertype_val_loss': 0.7451523542404175, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.6526526808738708, 'covertype_val_precision': 0.6482092142105103, 'covertype_val_recall': 0.6526526808738708, 'covertype_val_f1-score': 0.5981199741363525, 'covertype_val_support': 999.0, 'covertype_val_score': 0.6526526808738708}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1510 samples (75.50%) + Class 2: 308 samples (15.40%) + Class 3: 3 samples (0.15%) + Class 4: 179 samples (8.95%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6434999704360962 │ +│ covertype_test_f1-score │ 0.5839862823486328 │ +│ covertype_test_loss │ 0.7587243914604187 │ +│ covertype_test_precision │ 0.6455551981925964 │ +│ covertype_test_recall │ 0.6434999704360962 │ +│ covertype_test_score │ 0.6434999704360962 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 599.88it/s +Test metrics: [{'covertype_test_loss': 0.7587243914604187, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6434999704360962, 'covertype_test_precision': 0.6455551981925964, 'covertype_test_recall': 0.6434999704360962, 'covertype_test_f1-score': 0.5839862823486328, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6434999704360962}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1503 samples (79.11%) + Class 2: 304 samples (16.00%) + Class 3: 1 samples (0.05%) + Class 4: 92 samples (4.84%) +============================================================ +covertype_test_accuracy 5% removed: 0.6484 +covertype_test_precision 5% removed: 0.6574 +covertype_test_recall 5% removed: 0.6484 +covertype_test_f1-score 5% removed: 0.5891 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 1456 samples (80.89%) + Class 2: 297 samples (16.50%) + Class 3: 1 samples (0.06%) + Class 4: 46 samples (2.56%) +============================================================ +covertype_test_accuracy 10% removed: 0.6517 +covertype_test_precision 10% removed: 0.6651 +covertype_test_recall 10% removed: 0.6517 +covertype_test_f1-score 10% removed: 0.5933 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 1296 samples (81.00%) + Class 2: 270 samples (16.88%) + Class 3: 1 samples (0.06%) + Class 4: 33 samples (2.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.6494 +covertype_test_precision 20% removed: 0.6654 +covertype_test_recall 20% removed: 0.6494 +covertype_test_f1-score 20% removed: 0.5902 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 821 samples (82.10%) + Class 2: 170 samples (17.00%) + Class 3: 1 samples (0.10%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.6440 +covertype_test_precision 50% removed: 0.6704 +covertype_test_recall 50% removed: 0.6440 +covertype_test_f1-score 50% removed: 0.5825 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmprlj878de/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmprlj878de/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmprlj878de/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmprlj878de/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 30/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 258.09it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7087087035179138 │ +│ covertype_val_f1-score │ 0.689596951007843 │ +│ covertype_val_loss │ 0.6526762843132019 │ +│ covertype_val_precision │ 0.7040522694587708 │ +│ covertype_val_recall │ 0.7087087035179138 │ +│ covertype_val_score │ 0.7087087035179138 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 578.76it/s +Validation metrics: [{'covertype_val_loss': 0.6526762843132019, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7087087035179138, 'covertype_val_precision': 0.7040522694587708, 'covertype_val_recall': 0.7087087035179138, 'covertype_val_f1-score': 0.689596951007843, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7087087035179138}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 1296 samples (64.80%) + Class 2: 471 samples (23.55%) + Class 3: 33 samples (1.65%) + Class 4: 149 samples (7.45%) + Class 5: 50 samples (2.50%) + Class 6: 1 samples (0.05%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6980000138282776 │ +│ covertype_test_f1-score │ 0.6790457367897034 │ +│ covertype_test_loss │ 0.6576996445655823 │ +│ covertype_test_precision │ 0.6966467499732971 │ +│ covertype_test_recall │ 0.6980000138282776 │ +│ covertype_test_score │ 0.6980000138282776 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 607.42it/s +Test metrics: [{'covertype_test_loss': 0.6576996445655823, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6980000138282776, 'covertype_test_precision': 0.6966467499732971, 'covertype_test_recall': 0.6980000138282776, 'covertype_test_f1-score': 0.6790457367897034, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6980000138282776}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 1292 samples (68.00%) + Class 2: 467 samples (24.58%) + Class 3: 30 samples (1.58%) + Class 4: 69 samples (3.63%) + Class 5: 42 samples (2.21%) +============================================================ +covertype_test_accuracy 5% removed: 0.7063 +covertype_test_precision 5% removed: 0.7069 +covertype_test_recall 5% removed: 0.7063 +covertype_test_f1-score 5% removed: 0.6874 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 1257 samples (69.83%) + Class 2: 454 samples (25.22%) + Class 3: 29 samples (1.61%) + Class 4: 43 samples (2.39%) + Class 5: 17 samples (0.94%) +============================================================ +covertype_test_accuracy 10% removed: 0.7100 +covertype_test_precision 10% removed: 0.7092 +covertype_test_recall 10% removed: 0.7100 +covertype_test_f1-score 10% removed: 0.6892 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 1129 samples (70.56%) + Class 2: 401 samples (25.06%) + Class 3: 29 samples (1.81%) + Class 4: 31 samples (1.94%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7125 +covertype_test_precision 20% removed: 0.7151 +covertype_test_recall 20% removed: 0.7125 +covertype_test_f1-score 20% removed: 0.6908 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 724 samples (72.40%) + Class 2: 244 samples (24.40%) + Class 3: 24 samples (2.40%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7180 +covertype_test_precision 50% removed: 0.7302 +covertype_test_recall 50% removed: 0.7180 +covertype_test_f1-score 50% removed: 0.6945 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmprlj878de/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmprlj878de/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmprlj878de/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmprlj878de/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 47/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 260.44it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7117117047309875 │ +│ covertype_val_f1-score │ 0.7027697563171387 │ +│ covertype_val_loss │ 0.6679664254188538 │ +│ covertype_val_precision │ 0.7083477973937988 │ +│ covertype_val_recall │ 0.7117117047309875 │ +│ covertype_val_score │ 0.7117117047309875 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 587.89it/s +Validation metrics: [{'covertype_val_loss': 0.6679664254188538, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.7117117047309875, 'covertype_val_precision': 0.7083477973937988, 'covertype_val_recall': 0.7117117047309875, 'covertype_val_f1-score': 0.7027697563171387, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7117117047309875}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 1 samples (0.05%) + Class 1: 908 samples (45.40%) + Class 2: 877 samples (43.85%) + Class 3: 57 samples (2.85%) + Class 4: 122 samples (6.10%) + Class 5: 29 samples (1.45%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7124999761581421 │ +│ covertype_test_f1-score │ 0.7047130465507507 │ +│ covertype_test_loss │ 0.6965814232826233 │ +│ covertype_test_precision │ 0.7091813683509827 │ +│ covertype_test_recall │ 0.7124999761581421 │ +│ covertype_test_score │ 0.7124999761581421 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 590.16it/s +Test metrics: [{'covertype_test_loss': 0.6965814232826233, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.7124999761581421, 'covertype_test_precision': 0.7091813683509827, 'covertype_test_recall': 0.7124999761581421, 'covertype_test_f1-score': 0.7047130465507507, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7124999761581421}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 1 samples (0.05%) + Class 1: 884 samples (46.53%) + Class 2: 874 samples (46.00%) + Class 3: 53 samples (2.79%) + Class 4: 69 samples (3.63%) + Class 5: 17 samples (0.89%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7142 +covertype_test_precision 5% removed: 0.7115 +covertype_test_recall 5% removed: 0.7142 +covertype_test_f1-score 5% removed: 0.7070 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 849 samples (47.17%) + Class 2: 852 samples (47.33%) + Class 3: 52 samples (2.89%) + Class 4: 36 samples (2.00%) + Class 5: 8 samples (0.44%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7161 +covertype_test_precision 10% removed: 0.7140 +covertype_test_recall 10% removed: 0.7161 +covertype_test_f1-score 10% removed: 0.7092 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 1 samples (0.06%) + Class 1: 752 samples (47.00%) + Class 2: 764 samples (47.75%) + Class 3: 51 samples (3.19%) + Class 4: 29 samples (1.81%) + Class 5: 3 samples (0.19%) +============================================================ +covertype_test_accuracy 20% removed: 0.7219 +covertype_test_precision 20% removed: 0.7190 +covertype_test_recall 20% removed: 0.7219 +covertype_test_f1-score 20% removed: 0.7154 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 508 samples (50.80%) + Class 2: 444 samples (44.40%) + Class 3: 40 samples (4.00%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7440 +covertype_test_precision 50% removed: 0.7344 +covertype_test_recall 50% removed: 0.7440 +covertype_test_f1-score 50% removed: 0.7386 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmprlj878de/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmprlj878de/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmprlj878de/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmprlj878de/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 27/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 286.64it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.642642617225647 │ +│ covertype_val_f1-score │ 0.6252068877220154 │ +│ covertype_val_loss │ 0.8178880214691162 │ +│ covertype_val_precision │ 0.6745361089706421 │ +│ covertype_val_recall │ 0.642642617225647 │ +│ covertype_val_score │ 0.642642617225647 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 589.00it/s +Validation metrics: [{'covertype_val_loss': 0.8178880214691162, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.642642617225647, 'covertype_val_precision': 0.6745361089706421, 'covertype_val_recall': 0.642642617225647, 'covertype_val_f1-score': 0.6252068877220154, 'covertype_val_support': 999.0, 'covertype_val_score': 0.642642617225647}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 649 samples (32.45%) + Class 2: 1137 samples (56.85%) + Class 3: 80 samples (4.00%) + Class 4: 121 samples (6.05%) + Class 5: 7 samples (0.35%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6399999856948853 │ +│ covertype_test_f1-score │ 0.6197327375411987 │ +│ covertype_test_loss │ 0.7962392568588257 │ +│ covertype_test_precision │ 0.6698876619338989 │ +│ covertype_test_recall │ 0.6399999856948853 │ +│ covertype_test_score │ 0.6399999856948853 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 598.85it/s +Test metrics: [{'covertype_test_loss': 0.7962392568588257, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6399999856948853, 'covertype_test_precision': 0.6698876619338989, 'covertype_test_recall': 0.6399999856948853, 'covertype_test_f1-score': 0.6197327375411987, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6399999856948853}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 616 samples (32.42%) + Class 2: 1133 samples (59.63%) + Class 3: 76 samples (4.00%) + Class 4: 70 samples (3.68%) + Class 5: 4 samples (0.21%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.6447 +covertype_test_precision 5% removed: 0.6804 +covertype_test_recall 5% removed: 0.6447 +covertype_test_f1-score 5% removed: 0.6260 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 578 samples (32.11%) + Class 2: 1108 samples (61.56%) + Class 3: 75 samples (4.17%) + Class 4: 34 samples (1.89%) + Class 5: 4 samples (0.22%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.6439 +covertype_test_precision 10% removed: 0.6860 +covertype_test_recall 10% removed: 0.6439 +covertype_test_f1-score 10% removed: 0.6264 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 487 samples (30.44%) + Class 2: 1011 samples (63.19%) + Class 3: 74 samples (4.62%) + Class 4: 25 samples (1.56%) + Class 5: 2 samples (0.12%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.6488 +covertype_test_precision 20% removed: 0.7018 +covertype_test_recall 20% removed: 0.6488 +covertype_test_f1-score 20% removed: 0.6321 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 289 samples (28.90%) + Class 2: 648 samples (64.80%) + Class 3: 55 samples (5.50%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.6510 +covertype_test_precision 50% removed: 0.7084 +covertype_test_recall 50% removed: 0.6510 +covertype_test_f1-score 50% removed: 0.6348 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=mlp --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmprlj878de/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_hidden=2 --hidden_dim=128 --dropout=0.1 --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmprlj878de/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ mlp │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmprlj878de/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmprlj878de/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: mlp +╒══════════════════════╤════════════════╕ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ emb_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +===================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +===================================================================================================================================================================== +MLP [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─Linear: 2-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ └─Sequential: 2-3 [128, 128] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ └─ReLU: 3-3 [128, 128] [128, 128] -- -- -- +│ │ └─Dropout: 3-4 [128, 128] [128, 128] -- -- -- +│ │ └─BatchNorm1d: 3-5 [128, 128] [128, 128] 256 -- 32,768 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +===================================================================================================================================================================== +Total params: 211,389 +Trainable params: 211,389 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 27.06 +===================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 0.46 +Params size (MB): 0.85 +Estimated Total Size (MB): 3.07 +===================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 210 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 211 K +Non-trainable params: 0 +Total params: 211 K +Total estimated model params size (MB): 0.846 +Modules in train mode: 11 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 250.45it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.6336336135864258 │ +│ covertype_val_f1-score │ 0.6222491264343262 │ +│ covertype_val_loss │ 0.8957003951072693 │ +│ covertype_val_precision │ 0.6745713949203491 │ +│ covertype_val_recall │ 0.6336336135864258 │ +│ covertype_val_score │ 0.6336336135864258 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0010000000474974513 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 567.00it/s +Validation metrics: [{'covertype_val_loss': 0.8957003951072693, 'lr': 0.0010000000474974513, 'covertype_val_accuracy': 0.6336336135864258, 'covertype_val_precision': 0.6745713949203491, 'covertype_val_recall': 0.6336336135864258, 'covertype_val_f1-score': 0.6222491264343262, 'covertype_val_support': 999.0, 'covertype_val_score': 0.6336336135864258}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 1: 655 samples (32.75%) + Class 2: 1140 samples (57.00%) + Class 3: 88 samples (4.40%) + Class 4: 54 samples (2.70%) + Class 5: 57 samples (2.85%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.6345000267028809 │ +│ covertype_test_f1-score │ 0.619682788848877 │ +│ covertype_test_loss │ 0.8711293339729309 │ +│ covertype_test_precision │ 0.6716848611831665 │ +│ covertype_test_recall │ 0.6345000267028809 │ +│ covertype_test_score │ 0.6345000267028809 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0010000001639127731 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 577.10it/s +Test metrics: [{'covertype_test_loss': 0.8711293339729309, 'lr': 0.0010000001639127731, 'covertype_test_accuracy': 0.6345000267028809, 'covertype_test_precision': 0.6716848611831665, 'covertype_test_recall': 0.6345000267028809, 'covertype_test_f1-score': 0.619682788848877, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.6345000267028809}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 1: 617 samples (32.47%) + Class 2: 1136 samples (59.79%) + Class 3: 83 samples (4.37%) + Class 4: 24 samples (1.26%) + Class 5: 39 samples (2.05%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.6395 +covertype_test_precision 5% removed: 0.6866 +covertype_test_recall 5% removed: 0.6395 +covertype_test_f1-score 5% removed: 0.6243 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 1: 585 samples (32.50%) + Class 2: 1107 samples (61.50%) + Class 3: 81 samples (4.50%) + Class 4: 17 samples (0.94%) + Class 5: 9 samples (0.50%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.6406 +covertype_test_precision 10% removed: 0.6843 +covertype_test_recall 10% removed: 0.6406 +covertype_test_f1-score 10% removed: 0.6236 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 1: 498 samples (31.13%) + Class 2: 1006 samples (62.88%) + Class 3: 80 samples (5.00%) + Class 4: 13 samples (0.81%) + Class 5: 2 samples (0.12%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.6475 +covertype_test_precision 20% removed: 0.6998 +covertype_test_recall 20% removed: 0.6475 +covertype_test_f1-score 20% removed: 0.6313 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 1: 269 samples (26.90%) + Class 2: 662 samples (66.20%) + Class 3: 61 samples (6.10%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.6380 +covertype_test_precision 50% removed: 0.7074 +covertype_test_recall 50% removed: 0.6380 +covertype_test_f1-score 50% removed: 0.6196 +Wrote results for mlp on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/mlp_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.6657±0.0454 5%: 0.6706±0.0452 10%: 0.6724±0.0464 20%: 0.6760±0.0469 50%: 0.6790±0.0603 +covertype_test_precision 0%: 0.6786±0.0309 5%: 0.6886±0.0271 10%: 0.6917±0.0248 20%: 0.7002±0.0263 50%: 0.7101±0.0315 +covertype_test_recall 0%: 0.6657±0.0454 5%: 0.6706±0.0452 10%: 0.6724±0.0464 20%: 0.6760±0.0469 50%: 0.6790±0.0603 +covertype_test_f1-score 0%: 0.6414±0.0610 5%: 0.6468±0.0606 10%: 0.6483±0.0605 20%: 0.6520±0.0626 50%: 0.6540±0.0772 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'dcnv2'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1kfa59e3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp1kfa59e3/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1kfa59e3/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1kfa59e3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 187.12it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.770770788192749 │ +│ covertype_val_f1-score │ 0.7643114924430847 │ +│ covertype_val_loss │ 0.5759993195533752 │ +│ covertype_val_precision │ 0.7638193964958191 │ +│ covertype_val_recall │ 0.770770788192749 │ +│ covertype_val_score │ 0.770770788192749 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.866357686405536e-07 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 489.85it/s +Validation metrics: [{'covertype_val_loss': 0.5759993195533752, 'lr': 9.866357686405536e-07, 'covertype_val_accuracy': 0.770770788192749, 'covertype_val_precision': 0.7638193964958191, 'covertype_val_recall': 0.770770788192749, 'covertype_val_f1-score': 0.7643114924430847, 'covertype_val_support': 999.0, 'covertype_val_score': 0.770770788192749}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 1024 samples (51.20%) + Class 2: 710 samples (35.50%) + Class 3: 58 samples (2.90%) + Class 4: 137 samples (6.85%) + Class 5: 54 samples (2.70%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7839999794960022 │ +│ covertype_test_f1-score │ 0.7821389436721802 │ +│ covertype_test_loss │ 0.5912207365036011 │ +│ covertype_test_precision │ 0.7851523160934448 │ +│ covertype_test_recall │ 0.7839999794960022 │ +│ covertype_test_score │ 0.7839999794960022 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.866358823273913e-07 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 498.93it/s +Test metrics: [{'covertype_test_loss': 0.5912207365036011, 'lr': 9.866358823273913e-07, 'covertype_test_accuracy': 0.7839999794960022, 'covertype_test_precision': 0.7851523160934448, 'covertype_test_recall': 0.7839999794960022, 'covertype_test_f1-score': 0.7821389436721802, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7839999794960022}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 1010 samples (53.16%) + Class 2: 708 samples (37.26%) + Class 3: 55 samples (2.89%) + Class 4: 67 samples (3.53%) + Class 5: 47 samples (2.47%) +============================================================ +covertype_test_accuracy 5% removed: 0.7926 +covertype_test_precision 5% removed: 0.7925 +covertype_test_recall 5% removed: 0.7926 +covertype_test_f1-score 5% removed: 0.7909 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 979 samples (54.39%) + Class 2: 689 samples (38.28%) + Class 3: 54 samples (3.00%) + Class 4: 44 samples (2.44%) + Class 5: 21 samples (1.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7978 +covertype_test_precision 10% removed: 0.7962 +covertype_test_recall 10% removed: 0.7978 +covertype_test_f1-score 10% removed: 0.7953 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 872 samples (54.50%) + Class 2: 621 samples (38.81%) + Class 3: 53 samples (3.31%) + Class 4: 31 samples (1.94%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.8075 +covertype_test_precision 20% removed: 0.8070 +covertype_test_recall 20% removed: 0.8075 +covertype_test_f1-score 20% removed: 0.8058 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 551 samples (55.10%) + Class 2: 398 samples (39.80%) + Class 3: 37 samples (3.70%) + Class 4: 8 samples (0.80%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8110 +covertype_test_precision 50% removed: 0.8116 +covertype_test_recall 50% removed: 0.8110 +covertype_test_f1-score 50% removed: 0.8088 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1kfa59e3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp1kfa59e3/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1kfa59e3/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1kfa59e3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 41/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 188.03it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7907907962799072 │ +│ covertype_val_f1-score │ 0.787006676197052 │ +│ covertype_val_loss │ 0.564692497253418 │ +│ covertype_val_precision │ 0.7847110629081726 │ +│ covertype_val_recall │ 0.7907907962799072 │ +│ covertype_val_score │ 0.7907907962799072 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 6.18466583546251e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 486.10it/s +Validation metrics: [{'covertype_val_loss': 0.564692497253418, 'lr': 6.18466583546251e-05, 'covertype_val_accuracy': 0.7907907962799072, 'covertype_val_precision': 0.7847110629081726, 'covertype_val_recall': 0.7907907962799072, 'covertype_val_f1-score': 0.787006676197052, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7907907962799072}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 20 samples (1.00%) + Class 1: 1020 samples (51.00%) + Class 2: 715 samples (35.75%) + Class 3: 54 samples (2.70%) + Class 4: 130 samples (6.50%) + Class 5: 57 samples (2.85%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7914999723434448 │ +│ covertype_test_f1-score │ 0.7903733253479004 │ +│ covertype_test_loss │ 0.5728608965873718 │ +│ covertype_test_precision │ 0.7916897535324097 │ +│ covertype_test_recall │ 0.7914999723434448 │ +│ covertype_test_score │ 0.7914999723434448 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 6.184667290654033e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 495.34it/s +Test metrics: [{'covertype_test_loss': 0.5728608965873718, 'lr': 6.184667290654033e-05, 'covertype_test_accuracy': 0.7914999723434448, 'covertype_test_precision': 0.7916897535324097, 'covertype_test_recall': 0.7914999723434448, 'covertype_test_f1-score': 0.7903733253479004, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7914999723434448}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 19 samples (1.00%) + Class 1: 1005 samples (52.89%) + Class 2: 711 samples (37.42%) + Class 3: 52 samples (2.74%) + Class 4: 64 samples (3.37%) + Class 5: 48 samples (2.53%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7974 +covertype_test_precision 5% removed: 0.7980 +covertype_test_recall 5% removed: 0.7974 +covertype_test_f1-score 5% removed: 0.7965 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 19 samples (1.06%) + Class 1: 975 samples (54.17%) + Class 2: 689 samples (38.28%) + Class 3: 51 samples (2.83%) + Class 4: 41 samples (2.28%) + Class 5: 24 samples (1.33%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.8011 +covertype_test_precision 10% removed: 0.8007 +covertype_test_recall 10% removed: 0.8011 +covertype_test_f1-score 10% removed: 0.7998 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 874 samples (54.62%) + Class 2: 618 samples (38.62%) + Class 3: 51 samples (3.19%) + Class 4: 32 samples (2.00%) + Class 5: 9 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.8112 +covertype_test_precision 20% removed: 0.8111 +covertype_test_recall 20% removed: 0.8112 +covertype_test_f1-score 20% removed: 0.8100 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 546 samples (54.60%) + Class 2: 403 samples (40.30%) + Class 3: 35 samples (3.50%) + Class 4: 9 samples (0.90%) +============================================================ +covertype_test_accuracy 50% removed: 0.8120 +covertype_test_precision 50% removed: 0.8104 +covertype_test_recall 50% removed: 0.8120 +covertype_test_f1-score 50% removed: 0.8098 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1kfa59e3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp1kfa59e3/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1kfa59e3/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1kfa59e3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 203.82it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.781781792640686 │ +│ covertype_val_f1-score │ 0.7762766480445862 │ +│ covertype_val_loss │ 0.5514860153198242 │ +│ covertype_val_precision │ 0.7729000449180603 │ +│ covertype_val_recall │ 0.781781792640686 │ +│ covertype_val_score │ 0.781781792640686 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 488.42it/s +Validation metrics: [{'covertype_val_loss': 0.5514860153198242, 'lr': 0.0, 'covertype_val_accuracy': 0.781781792640686, 'covertype_val_precision': 0.7729000449180603, 'covertype_val_recall': 0.781781792640686, 'covertype_val_f1-score': 0.7762766480445862, 'covertype_val_support': 999.0, 'covertype_val_score': 0.781781792640686}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 1016 samples (50.80%) + Class 2: 732 samples (36.60%) + Class 3: 56 samples (2.80%) + Class 4: 127 samples (6.35%) + Class 5: 51 samples (2.55%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7900000214576721 │ +│ covertype_test_f1-score │ 0.7874528169631958 │ +│ covertype_test_loss │ 0.5690314173698425 │ +│ covertype_test_precision │ 0.7888599634170532 │ +│ covertype_test_recall │ 0.7900000214576721 │ +│ covertype_test_score │ 0.7900000214576721 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 493.24it/s +Test metrics: [{'covertype_test_loss': 0.5690314173698425, 'lr': 0.0, 'covertype_test_accuracy': 0.7900000214576721, 'covertype_test_precision': 0.7888599634170532, 'covertype_test_recall': 0.7900000214576721, 'covertype_test_f1-score': 0.7874528169631958, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7900000214576721}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 1001 samples (52.68%) + Class 2: 728 samples (38.32%) + Class 3: 53 samples (2.79%) + Class 4: 64 samples (3.37%) + Class 5: 40 samples (2.11%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7968 +covertype_test_precision 5% removed: 0.7960 +covertype_test_recall 5% removed: 0.7968 +covertype_test_f1-score 5% removed: 0.7946 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 970 samples (53.89%) + Class 2: 708 samples (39.33%) + Class 3: 52 samples (2.89%) + Class 4: 40 samples (2.22%) + Class 5: 16 samples (0.89%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.8011 +covertype_test_precision 10% removed: 0.7991 +covertype_test_recall 10% removed: 0.8011 +covertype_test_f1-score 10% removed: 0.7981 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 865 samples (54.06%) + Class 2: 634 samples (39.62%) + Class 3: 51 samples (3.19%) + Class 4: 29 samples (1.81%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.8125 +covertype_test_precision 20% removed: 0.8115 +covertype_test_recall 20% removed: 0.8125 +covertype_test_f1-score 20% removed: 0.8103 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 534 samples (53.40%) + Class 2: 417 samples (41.70%) + Class 3: 35 samples (3.50%) + Class 4: 8 samples (0.80%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8130 +covertype_test_precision 50% removed: 0.8122 +covertype_test_recall 50% removed: 0.8130 +covertype_test_f1-score 50% removed: 0.8107 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1kfa59e3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp1kfa59e3/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1kfa59e3/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1kfa59e3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 42/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 181.18it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.781781792640686 │ +│ covertype_val_f1-score │ 0.777438223361969 │ +│ covertype_val_loss │ 0.5730425715446472 │ +│ covertype_val_precision │ 0.7753583192825317 │ +│ covertype_val_recall │ 0.781781792640686 │ +│ covertype_val_score │ 0.781781792640686 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 4.758647264679894e-05 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 504.21it/s +Validation metrics: [{'covertype_val_loss': 0.5730425715446472, 'lr': 4.758647264679894e-05, 'covertype_val_accuracy': 0.781781792640686, 'covertype_val_precision': 0.7753583192825317, 'covertype_val_recall': 0.781781792640686, 'covertype_val_f1-score': 0.777438223361969, 'covertype_val_support': 999.0, 'covertype_val_score': 0.781781792640686}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 1029 samples (51.45%) + Class 2: 710 samples (35.50%) + Class 3: 56 samples (2.80%) + Class 4: 134 samples (6.70%) + Class 5: 53 samples (2.65%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.784500002861023 │ +│ covertype_test_f1-score │ 0.7819281816482544 │ +│ covertype_test_loss │ 0.5782148241996765 │ +│ covertype_test_precision │ 0.7830727696418762 │ +│ covertype_test_recall │ 0.784500002861023 │ +│ covertype_test_score │ 0.784500002861023 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 4.758647264679894e-05 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 503.10it/s +Test metrics: [{'covertype_test_loss': 0.5782148241996765, 'lr': 4.758647264679894e-05, 'covertype_test_accuracy': 0.784500002861023, 'covertype_test_precision': 0.7830727696418762, 'covertype_test_recall': 0.784500002861023, 'covertype_test_f1-score': 0.7819281816482544, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.784500002861023}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 14 samples (0.74%) + Class 1: 1017 samples (53.53%) + Class 2: 706 samples (37.16%) + Class 3: 53 samples (2.79%) + Class 4: 67 samples (3.53%) + Class 5: 43 samples (2.26%) +============================================================ +covertype_test_accuracy 5% removed: 0.7937 +covertype_test_precision 5% removed: 0.7903 +covertype_test_recall 5% removed: 0.7937 +covertype_test_f1-score 5% removed: 0.7910 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 14 samples (0.78%) + Class 1: 984 samples (54.67%) + Class 2: 689 samples (38.28%) + Class 3: 51 samples (2.83%) + Class 4: 46 samples (2.56%) + Class 5: 16 samples (0.89%) +============================================================ +covertype_test_accuracy 10% removed: 0.7978 +covertype_test_precision 10% removed: 0.7936 +covertype_test_recall 10% removed: 0.7978 +covertype_test_f1-score 10% removed: 0.7943 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 11 samples (0.69%) + Class 1: 880 samples (55.00%) + Class 2: 618 samples (38.62%) + Class 3: 51 samples (3.19%) + Class 4: 35 samples (2.19%) + Class 5: 5 samples (0.31%) +============================================================ +covertype_test_accuracy 20% removed: 0.8069 +covertype_test_precision 20% removed: 0.8057 +covertype_test_recall 20% removed: 0.8069 +covertype_test_f1-score 20% removed: 0.8039 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 552 samples (55.20%) + Class 2: 399 samples (39.90%) + Class 3: 36 samples (3.60%) + Class 4: 9 samples (0.90%) +============================================================ +covertype_test_accuracy 50% removed: 0.8030 +covertype_test_precision 50% removed: 0.8007 +covertype_test_recall 50% removed: 0.8030 +covertype_test_f1-score 50% removed: 0.7993 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=dcnv2 --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp1kfa59e3/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --hidden_dim=128 --n_hidden_layers=4 --n_cross_layers=2 --hidden_dropout=0.1 --cross_dropout=0.1 --d_embedding=128 --stacked=True --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp1kfa59e3/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ dcnv2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp1kfa59e3/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp1kfa59e3/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: dcnv2 +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ categories │ [] │ +├──────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ hidden_dim │ 128 │ +├──────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├──────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ stacked │ True │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├──────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘══════════════════════╧════════════════╛ +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/src/models/dcnv2.py:40: UserWarning: Initializing zero-element tensors is a no-op + nn.init.kaiming_uniform_(self.category_embeddings.weight, a=math.sqrt(5)) +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_hidden_layers │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cross_layers │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ hidden_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cross_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ stacked │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_embedding │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +DCNv2 [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderDCNv2: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─DCNv2Base: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Embedding: 4-1 [128, 0] [128, 0, 128] -- -- -- +│ │ │ └─Linear: 4-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ │ └─ModuleList: 4-3 -- -- -- -- -- +│ │ │ │ └─CrossLayer: 5-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-1 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─CrossLayer: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ │ └─Dropout: 6-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-3 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-4 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-7 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-8 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-9 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-10 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-11 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Linear: 5-12 [128, 128] [128, 128] 16,512 -- 2,113,536 +│ │ │ │ └─ReLU: 5-13 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─Dropout: 5-14 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-5 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 310,205 +Trainable params: 310,205 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 39.71 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 1.11 +Params size (MB): 1.24 +Estimated Total Size (MB): 4.12 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 309 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 310 K +Non-trainable params: 0 +Total params: 310 K +Total estimated model params size (MB): 1.241 +Modules in train mode: 30 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 195.94it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7757757902145386 │ +│ covertype_val_f1-score │ 0.760140597820282 │ +│ covertype_val_loss │ 0.5561369061470032 │ +│ covertype_val_precision │ 0.7516496181488037 │ +│ covertype_val_recall │ 0.7757757902145386 │ +│ covertype_val_score │ 0.7757757902145386 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 483.10it/s +Validation metrics: [{'covertype_val_loss': 0.5561369061470032, 'lr': 0.0, 'covertype_val_accuracy': 0.7757757902145386, 'covertype_val_precision': 0.7516496181488037, 'covertype_val_recall': 0.7757757902145386, 'covertype_val_f1-score': 0.760140597820282, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7757757902145386}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 18 samples (0.90%) + Class 1: 1034 samples (51.70%) + Class 2: 708 samples (35.40%) + Class 3: 59 samples (2.95%) + Class 4: 176 samples (8.80%) + Class 5: 1 samples (0.05%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7864999771118164 │ +│ covertype_test_f1-score │ 0.7746065258979797 │ +│ covertype_test_loss │ 0.575737476348877 │ +│ covertype_test_precision │ 0.7987991571426392 │ +│ covertype_test_recall │ 0.7864999771118164 │ +│ covertype_test_score │ 0.7864999771118164 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 489.71it/s +Test metrics: [{'covertype_test_loss': 0.575737476348877, 'lr': 0.0, 'covertype_test_accuracy': 0.7864999771118164, 'covertype_test_precision': 0.7987991571426392, 'covertype_test_recall': 0.7864999771118164, 'covertype_test_f1-score': 0.7746065258979797, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7864999771118164}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 17 samples (0.89%) + Class 1: 1018 samples (53.58%) + Class 2: 704 samples (37.05%) + Class 3: 56 samples (2.95%) + Class 4: 104 samples (5.47%) + Class 5: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7958 +covertype_test_precision 5% removed: 0.8015 +covertype_test_recall 5% removed: 0.7958 +covertype_test_f1-score 5% removed: 0.7871 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 986 samples (54.78%) + Class 2: 685 samples (38.06%) + Class 3: 55 samples (3.06%) + Class 4: 57 samples (3.17%) + Class 5: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.8022 +covertype_test_precision 10% removed: 0.8033 +covertype_test_recall 10% removed: 0.8022 +covertype_test_f1-score 10% removed: 0.7960 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 880 samples (55.00%) + Class 2: 613 samples (38.31%) + Class 3: 54 samples (3.38%) + Class 4: 39 samples (2.44%) +============================================================ +covertype_test_accuracy 20% removed: 0.8100 +covertype_test_precision 20% removed: 0.8042 +covertype_test_recall 20% removed: 0.8100 +covertype_test_f1-score 20% removed: 0.8056 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 555 samples (55.50%) + Class 2: 394 samples (39.40%) + Class 3: 38 samples (3.80%) + Class 4: 9 samples (0.90%) +============================================================ +covertype_test_accuracy 50% removed: 0.8150 +covertype_test_precision 50% removed: 0.8149 +covertype_test_recall 50% removed: 0.8150 +covertype_test_f1-score 50% removed: 0.8116 +Wrote results for dcnv2 on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/dcnv2_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7873±0.0041 5%: 0.7953±0.0025 10%: 0.8000±0.0026 20%: 0.8096±0.0030 50%: 0.8108±0.0057 +covertype_test_precision 0%: 0.7895±0.0077 5%: 0.7957±0.0055 10%: 0.7986±0.0047 20%: 0.8079±0.0040 50%: 0.8100±0.0067 +covertype_test_recall 0%: 0.7873±0.0041 5%: 0.7953±0.0025 10%: 0.8000±0.0026 20%: 0.8096±0.0030 50%: 0.8108±0.0057 +covertype_test_f1-score 0%: 0.7833±0.0075 5%: 0.7920±0.0045 10%: 0.7967±0.0027 20%: 0.8071±0.0035 50%: 0.8080±0.0062 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'resnet'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp3fptk0c0/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmp3fptk0c0/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp3fptk0c0/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp3fptk0c0/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 180.62it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7497497200965881 │ +│ covertype_val_f1-score │ 0.7501882910728455 │ +│ covertype_val_loss │ 0.594142735004425 │ +│ covertype_val_precision │ 0.7530683875083923 │ +│ covertype_val_recall │ 0.7497497200965881 │ +│ covertype_val_score │ 0.7497497200965881 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 482.16it/s +Validation metrics: [{'covertype_val_loss': 0.594142735004425, 'lr': 0.0, 'covertype_val_accuracy': 0.7497497200965881, 'covertype_val_precision': 0.7530683875083923, 'covertype_val_recall': 0.7497497200965881, 'covertype_val_f1-score': 0.7501882910728455, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7497497200965881}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 23 samples (1.15%) + Class 1: 989 samples (49.45%) + Class 2: 733 samples (36.65%) + Class 3: 59 samples (2.95%) + Class 4: 107 samples (5.35%) + Class 5: 84 samples (4.20%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7634999752044678 │ +│ covertype_test_f1-score │ 0.7645227909088135 │ +│ covertype_test_loss │ 0.5723715424537659 │ +│ covertype_test_precision │ 0.7673039436340332 │ +│ covertype_test_recall │ 0.7634999752044678 │ +│ covertype_test_score │ 0.7634999752044678 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 491.57it/s +Test metrics: [{'covertype_test_loss': 0.5723715424537659, 'lr': 0.0, 'covertype_test_accuracy': 0.7634999752044678, 'covertype_test_precision': 0.7673039436340332, 'covertype_test_recall': 0.7634999752044678, 'covertype_test_f1-score': 0.7645227909088135, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7634999752044678}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 20 samples (1.05%) + Class 1: 976 samples (51.37%) + Class 2: 729 samples (38.37%) + Class 3: 56 samples (2.95%) + Class 4: 52 samples (2.74%) + Class 5: 66 samples (3.47%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7716 +covertype_test_precision 5% removed: 0.7770 +covertype_test_recall 5% removed: 0.7716 +covertype_test_f1-score 5% removed: 0.7722 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 20 samples (1.11%) + Class 1: 943 samples (52.39%) + Class 2: 712 samples (39.56%) + Class 3: 55 samples (3.06%) + Class 4: 34 samples (1.89%) + Class 5: 35 samples (1.94%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7778 +covertype_test_precision 10% removed: 0.7811 +covertype_test_recall 10% removed: 0.7778 +covertype_test_f1-score 10% removed: 0.7780 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 19 samples (1.19%) + Class 1: 838 samples (52.38%) + Class 2: 645 samples (40.31%) + Class 3: 54 samples (3.38%) + Class 4: 27 samples (1.69%) + Class 5: 17 samples (1.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7844 +covertype_test_precision 20% removed: 0.7863 +covertype_test_recall 20% removed: 0.7844 +covertype_test_f1-score 20% removed: 0.7847 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 507 samples (50.70%) + Class 2: 437 samples (43.70%) + Class 3: 38 samples (3.80%) + Class 4: 6 samples (0.60%) + Class 5: 5 samples (0.50%) +============================================================ +covertype_test_accuracy 50% removed: 0.7790 +covertype_test_precision 50% removed: 0.7841 +covertype_test_recall 50% removed: 0.7790 +covertype_test_f1-score 50% removed: 0.7796 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp3fptk0c0/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmp3fptk0c0/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp3fptk0c0/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp3fptk0c0/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 198.95it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7547547817230225 │ +│ covertype_val_f1-score │ 0.746654748916626 │ +│ covertype_val_loss │ 0.6058229804039001 │ +│ covertype_val_precision │ 0.7458134889602661 │ +│ covertype_val_recall │ 0.7547547817230225 │ +│ covertype_val_score │ 0.7547547817230225 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 476.55it/s +Validation metrics: [{'covertype_val_loss': 0.6058229804039001, 'lr': 0.0, 'covertype_val_accuracy': 0.7547547817230225, 'covertype_val_precision': 0.7458134889602661, 'covertype_val_recall': 0.7547547817230225, 'covertype_val_f1-score': 0.746654748916626, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7547547817230225}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 26 samples (1.30%) + Class 1: 1035 samples (51.75%) + Class 2: 732 samples (36.60%) + Class 3: 45 samples (2.25%) + Class 4: 119 samples (5.95%) + Class 5: 38 samples (1.90%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7879999876022339 │ +│ covertype_test_f1-score │ 0.7850701212882996 │ +│ covertype_test_loss │ 0.5583197474479675 │ +│ covertype_test_precision │ 0.7863380312919617 │ +│ covertype_test_recall │ 0.7879999876022339 │ +│ covertype_test_score │ 0.7879999876022339 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 473.52it/s +Test metrics: [{'covertype_test_loss': 0.5583197474479675, 'lr': 0.0, 'covertype_test_accuracy': 0.7879999876022339, 'covertype_test_precision': 0.7863380312919617, 'covertype_test_recall': 0.7879999876022339, 'covertype_test_f1-score': 0.7850701212882996, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7879999876022339}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 24 samples (1.26%) + Class 1: 1012 samples (53.26%) + Class 2: 729 samples (38.37%) + Class 3: 42 samples (2.21%) + Class 4: 63 samples (3.32%) + Class 5: 29 samples (1.53%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7942 +covertype_test_precision 5% removed: 0.7929 +covertype_test_recall 5% removed: 0.7942 +covertype_test_f1-score 5% removed: 0.7919 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 21 samples (1.17%) + Class 1: 975 samples (54.17%) + Class 2: 711 samples (39.50%) + Class 3: 40 samples (2.22%) + Class 4: 35 samples (1.94%) + Class 5: 17 samples (0.94%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7983 +covertype_test_precision 10% removed: 0.7969 +covertype_test_recall 10% removed: 0.7983 +covertype_test_f1-score 10% removed: 0.7958 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (1.06%) + Class 1: 869 samples (54.31%) + Class 2: 640 samples (40.00%) + Class 3: 40 samples (2.50%) + Class 4: 23 samples (1.44%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.8044 +covertype_test_precision 20% removed: 0.8033 +covertype_test_recall 20% removed: 0.8044 +covertype_test_f1-score 20% removed: 0.8024 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 555 samples (55.50%) + Class 2: 407 samples (40.70%) + Class 3: 24 samples (2.40%) + Class 4: 4 samples (0.40%) + Class 5: 4 samples (0.40%) +============================================================ +covertype_test_accuracy 50% removed: 0.8010 +covertype_test_precision 50% removed: 0.8060 +covertype_test_recall 50% removed: 0.8010 +covertype_test_f1-score 50% removed: 0.7994 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp3fptk0c0/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmp3fptk0c0/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp3fptk0c0/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp3fptk0c0/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 177.83it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7427427172660828 │ +│ covertype_val_f1-score │ 0.7367311120033264 │ +│ covertype_val_loss │ 0.6119688153266907 │ +│ covertype_val_precision │ 0.7416443228721619 │ +│ covertype_val_recall │ 0.7427427172660828 │ +│ covertype_val_score │ 0.7427427172660828 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 471.54it/s +Validation metrics: [{'covertype_val_loss': 0.6119688153266907, 'lr': 0.0, 'covertype_val_accuracy': 0.7427427172660828, 'covertype_val_precision': 0.7416443228721619, 'covertype_val_recall': 0.7427427172660828, 'covertype_val_f1-score': 0.7367311120033264, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7427427172660828}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 15 samples (0.75%) + Class 1: 919 samples (45.95%) + Class 2: 831 samples (41.55%) + Class 3: 60 samples (3.00%) + Class 4: 118 samples (5.90%) + Class 5: 51 samples (2.55%) + Class 6: 6 samples (0.30%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7605000138282776 │ +│ covertype_test_f1-score │ 0.7590736150741577 │ +│ covertype_test_loss │ 0.5788147449493408 │ +│ covertype_test_precision │ 0.7660687565803528 │ +│ covertype_test_recall │ 0.7605000138282776 │ +│ covertype_test_score │ 0.7605000138282776 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 469.45it/s +Test metrics: [{'covertype_test_loss': 0.5788147449493408, 'lr': 0.0, 'covertype_test_accuracy': 0.7605000138282776, 'covertype_test_precision': 0.7660687565803528, 'covertype_test_recall': 0.7605000138282776, 'covertype_test_f1-score': 0.7590736150741577, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7605000138282776}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 14 samples (0.74%) + Class 1: 902 samples (47.47%) + Class 2: 827 samples (43.53%) + Class 3: 57 samples (3.00%) + Class 4: 60 samples (3.16%) + Class 5: 38 samples (2.00%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 5% removed: 0.7653 +covertype_test_precision 5% removed: 0.7718 +covertype_test_recall 5% removed: 0.7653 +covertype_test_f1-score 5% removed: 0.7643 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 14 samples (0.78%) + Class 1: 871 samples (48.39%) + Class 2: 805 samples (44.72%) + Class 3: 56 samples (3.11%) + Class 4: 39 samples (2.17%) + Class 5: 13 samples (0.72%) + Class 6: 2 samples (0.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7700 +covertype_test_precision 10% removed: 0.7755 +covertype_test_recall 10% removed: 0.7700 +covertype_test_f1-score 10% removed: 0.7681 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 762 samples (47.62%) + Class 2: 731 samples (45.69%) + Class 3: 55 samples (3.44%) + Class 4: 28 samples (1.75%) + Class 5: 9 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7788 +covertype_test_precision 20% removed: 0.7862 +covertype_test_recall 20% removed: 0.7788 +covertype_test_f1-score 20% removed: 0.7783 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 470 samples (47.00%) + Class 2: 474 samples (47.40%) + Class 3: 39 samples (3.90%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7730 +covertype_test_precision 50% removed: 0.7785 +covertype_test_recall 50% removed: 0.7730 +covertype_test_f1-score 50% removed: 0.7724 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp3fptk0c0/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmp3fptk0c0/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp3fptk0c0/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp3fptk0c0/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 184.60it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.770770788192749 │ +│ covertype_val_f1-score │ 0.7684117555618286 │ +│ covertype_val_loss │ 0.5851932168006897 │ +│ covertype_val_precision │ 0.7681753039360046 │ +│ covertype_val_recall │ 0.770770788192749 │ +│ covertype_val_score │ 0.770770788192749 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 475.37it/s +Validation metrics: [{'covertype_val_loss': 0.5851932168006897, 'lr': 0.0, 'covertype_val_accuracy': 0.770770788192749, 'covertype_val_precision': 0.7681753039360046, 'covertype_val_recall': 0.770770788192749, 'covertype_val_f1-score': 0.7684117555618286, 'covertype_val_support': 999.0, 'covertype_val_score': 0.770770788192749}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 28 samples (1.40%) + Class 1: 1010 samples (50.50%) + Class 2: 717 samples (35.85%) + Class 3: 65 samples (3.25%) + Class 4: 103 samples (5.15%) + Class 5: 73 samples (3.65%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7795000076293945 │ +│ covertype_test_f1-score │ 0.7794183492660522 │ +│ covertype_test_loss │ 0.5601950287818909 │ +│ covertype_test_precision │ 0.7801461219787598 │ +│ covertype_test_recall │ 0.7795000076293945 │ +│ covertype_test_score │ 0.7795000076293945 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 479.26it/s +Test metrics: [{'covertype_test_loss': 0.5601950287818909, 'lr': 0.0, 'covertype_test_accuracy': 0.7795000076293945, 'covertype_test_precision': 0.7801461219787598, 'covertype_test_recall': 0.7795000076293945, 'covertype_test_f1-score': 0.7794183492660522, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7795000076293945}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 26 samples (1.37%) + Class 1: 993 samples (52.26%) + Class 2: 714 samples (37.58%) + Class 3: 61 samples (3.21%) + Class 4: 50 samples (2.63%) + Class 5: 55 samples (2.89%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7874 +covertype_test_precision 5% removed: 0.7893 +covertype_test_recall 5% removed: 0.7874 +covertype_test_f1-score 5% removed: 0.7871 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 25 samples (1.39%) + Class 1: 960 samples (53.33%) + Class 2: 696 samples (38.67%) + Class 3: 60 samples (3.33%) + Class 4: 33 samples (1.83%) + Class 5: 25 samples (1.39%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7922 +covertype_test_precision 10% removed: 0.7917 +covertype_test_recall 10% removed: 0.7922 +covertype_test_f1-score 10% removed: 0.7913 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 17 samples (1.06%) + Class 1: 862 samples (53.87%) + Class 2: 626 samples (39.12%) + Class 3: 59 samples (3.69%) + Class 4: 25 samples (1.56%) + Class 5: 10 samples (0.62%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.8019 +covertype_test_precision 20% removed: 0.8001 +covertype_test_recall 20% removed: 0.8019 +covertype_test_f1-score 20% removed: 0.8005 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 7 samples (0.70%) + Class 1: 547 samples (54.70%) + Class 2: 395 samples (39.50%) + Class 3: 43 samples (4.30%) + Class 4: 7 samples (0.70%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.8030 +covertype_test_precision 50% removed: 0.8010 +covertype_test_recall 50% removed: 0.8030 +covertype_test_f1-score 50% removed: 0.8008 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=resnet --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmp3fptk0c0/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_out=128 --d_block=128 --d_hidden=256 --dropout1=0.1 --dropout2=0.0 --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmp3fptk0c0/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ resnet │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmp3fptk0c0/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmp3fptk0c0/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: resnet +╒══════════════════════╤════════════════╕ +│ cardinalities │ [] │ +├──────────────────────┼────────────────┤ +│ d_block │ 128 │ +├──────────────────────┼────────────────┤ +│ d_hidden │ 256 │ +├──────────────────────┼────────────────┤ +│ d_hidden_multiplier │ │ +├──────────────────────┼────────────────┤ +│ d_out │ 128 │ +├──────────────────────┼────────────────┤ +│ dataset_name │ │ +├──────────────────────┼────────────────┤ +│ dropout1 │ 0.1 │ +├──────────────────────┼────────────────┤ +│ dropout2 │ 0.0 │ +├──────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├──────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├──────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├──────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├──────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├──────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├──────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├──────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├──────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘══════════════════════╧════════════════╛ +using embedding: True +========================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================== +ResNet [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─ResNet: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─Linear: 3-2 [128, 54] [128, 128] 7,040 -- 901,120 +│ │ └─ModuleList: 3-3 -- -- -- -- -- +│ │ │ └─Sequential: 4-1 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-1 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-2 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-3 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-4 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-5 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-6 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-7 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-8 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-9 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-10 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-11 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-12 [128, 128] [128, 128] -- -- -- +│ │ │ └─Sequential: 4-3 [128, 128] [128, 128] -- -- -- +│ │ │ │ └─BatchNorm1d: 5-13 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ └─Linear: 5-14 [128, 128] [128, 256] 33,024 -- 4,227,072 +│ │ │ │ └─ReLU: 5-15 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Dropout: 5-16 [128, 256] [128, 256] -- -- -- +│ │ │ │ └─Linear: 5-17 [128, 256] [128, 128] 32,896 -- 4,210,688 +│ │ │ │ └─Dropout: 5-18 [128, 128] [128, 128] -- -- -- +│ │ └─Sequential: 3-4 [128, 128] [128, 128] -- -- -- +│ │ │ └─BatchNorm1d: 4-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 128] [128, 128] -- -- -- +│ │ │ └─Linear: 4-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================== +Total params: 409,917 +Trainable params: 409,917 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 52.47 +========================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 2.03 +Params size (MB): 1.64 +Estimated Total Size (MB): 5.44 +========================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 409 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 409 K +Non-trainable params: 0 +Total params: 409 K +Total estimated model params size (MB): 1.640 +Modules in train mode: 33 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 174.59it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7497497200965881 │ +│ covertype_val_f1-score │ 0.7478482723236084 │ +│ covertype_val_loss │ 0.5920760035514832 │ +│ covertype_val_precision │ 0.746414065361023 │ +│ covertype_val_recall │ 0.7497497200965881 │ +│ covertype_val_score │ 0.7497497200965881 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 474.35it/s +Validation metrics: [{'covertype_val_loss': 0.5920760035514832, 'lr': 0.0, 'covertype_val_accuracy': 0.7497497200965881, 'covertype_val_precision': 0.746414065361023, 'covertype_val_recall': 0.7497497200965881, 'covertype_val_f1-score': 0.7478482723236084, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7497497200965881}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 42 samples (2.10%) + Class 1: 992 samples (49.60%) + Class 2: 718 samples (35.90%) + Class 3: 62 samples (3.10%) + Class 4: 125 samples (6.25%) + Class 5: 58 samples (2.90%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7684999704360962 │ +│ covertype_test_f1-score │ 0.7691057920455933 │ +│ covertype_test_loss │ 0.5710963606834412 │ +│ covertype_test_precision │ 0.7713376879692078 │ +│ covertype_test_recall │ 0.7684999704360962 │ +│ covertype_test_score │ 0.7684999704360962 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 476.47it/s +Test metrics: [{'covertype_test_loss': 0.5710963606834412, 'lr': 0.0, 'covertype_test_accuracy': 0.7684999704360962, 'covertype_test_precision': 0.7713376879692078, 'covertype_test_recall': 0.7684999704360962, 'covertype_test_f1-score': 0.7691057920455933, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7684999704360962}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 40 samples (2.11%) + Class 1: 978 samples (51.47%) + Class 2: 716 samples (37.68%) + Class 3: 58 samples (3.05%) + Class 4: 62 samples (3.26%) + Class 5: 46 samples (2.42%) +============================================================ +covertype_test_accuracy 5% removed: 0.7737 +covertype_test_precision 5% removed: 0.7756 +covertype_test_recall 5% removed: 0.7737 +covertype_test_f1-score 5% removed: 0.7744 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 37 samples (2.06%) + Class 1: 948 samples (52.67%) + Class 2: 697 samples (38.72%) + Class 3: 57 samples (3.17%) + Class 4: 41 samples (2.28%) + Class 5: 20 samples (1.11%) +============================================================ +covertype_test_accuracy 10% removed: 0.7794 +covertype_test_precision 10% removed: 0.7794 +covertype_test_recall 10% removed: 0.7794 +covertype_test_f1-score 10% removed: 0.7793 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 34 samples (2.12%) + Class 1: 846 samples (52.88%) + Class 2: 626 samples (39.12%) + Class 3: 56 samples (3.50%) + Class 4: 29 samples (1.81%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7875 +covertype_test_precision 20% removed: 0.7885 +covertype_test_recall 20% removed: 0.7875 +covertype_test_f1-score 20% removed: 0.7878 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 11 samples (1.10%) + Class 1: 520 samples (52.00%) + Class 2: 419 samples (41.90%) + Class 3: 39 samples (3.90%) + Class 4: 10 samples (1.00%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7830 +covertype_test_precision 50% removed: 0.7822 +covertype_test_recall 50% removed: 0.7830 +covertype_test_f1-score 50% removed: 0.7823 +Wrote results for resnet on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/resnet_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7720±0.0143 5%: 0.7784±0.0148 10%: 0.7836±0.0143 20%: 0.7914±0.0139 50%: 0.7878±0.0167 +covertype_test_precision 0%: 0.7742±0.0108 5%: 0.7813±0.0115 10%: 0.7849±0.0112 20%: 0.7929±0.0101 50%: 0.7904±0.0153 +covertype_test_recall 0%: 0.7720±0.0143 5%: 0.7784±0.0148 10%: 0.7836±0.0143 20%: 0.7914±0.0139 50%: 0.7878±0.0167 +covertype_test_f1-score 0%: 0.7714±0.0133 5%: 0.7780±0.0140 10%: 0.7825±0.0137 20%: 0.7908±0.0129 50%: 0.7869±0.0156 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'autoint'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpdv_aufda/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpdv_aufda/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpdv_aufda/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpdv_aufda/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 34/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 108.97it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7577577829360962 │ +│ covertype_val_f1-score │ 0.7519453763961792 │ +│ covertype_val_loss │ 0.6020314693450928 │ +│ covertype_val_precision │ 0.7524922490119934 │ +│ covertype_val_recall │ 0.7577577829360962 │ +│ covertype_val_score │ 0.7577577829360962 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0002061073755612597 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 336.99it/s +Validation metrics: [{'covertype_val_loss': 0.6020314693450928, 'lr': 0.0002061073755612597, 'covertype_val_accuracy': 0.7577577829360962, 'covertype_val_precision': 0.7524922490119934, 'covertype_val_recall': 0.7577577829360962, 'covertype_val_f1-score': 0.7519453763961792, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7577577829360962}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 19 samples (0.95%) + Class 1: 1060 samples (53.00%) + Class 2: 674 samples (33.70%) + Class 3: 53 samples (2.65%) + Class 4: 143 samples (7.15%) + Class 5: 44 samples (2.20%) + Class 6: 7 samples (0.35%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7480000257492065 │ +│ covertype_test_f1-score │ 0.745022714138031 │ +│ covertype_test_loss │ 0.5789165496826172 │ +│ covertype_test_precision │ 0.7462155222892761 │ +│ covertype_test_recall │ 0.7480000257492065 │ +│ covertype_test_score │ 0.7480000257492065 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.000206107331905514 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 344.01it/s +Test metrics: [{'covertype_test_loss': 0.5789165496826172, 'lr': 0.000206107331905514, 'covertype_test_accuracy': 0.7480000257492065, 'covertype_test_precision': 0.7462155222892761, 'covertype_test_recall': 0.7480000257492065, 'covertype_test_f1-score': 0.745022714138031, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7480000257492065}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 18 samples (0.95%) + Class 1: 1048 samples (55.16%) + Class 2: 672 samples (35.37%) + Class 3: 49 samples (2.58%) + Class 4: 72 samples (3.79%) + Class 5: 40 samples (2.11%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7568 +covertype_test_precision 5% removed: 0.7555 +covertype_test_recall 5% removed: 0.7568 +covertype_test_f1-score 5% removed: 0.7546 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 17 samples (0.94%) + Class 1: 1022 samples (56.78%) + Class 2: 652 samples (36.22%) + Class 3: 48 samples (2.67%) + Class 4: 40 samples (2.22%) + Class 5: 20 samples (1.11%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7617 +covertype_test_precision 10% removed: 0.7593 +covertype_test_recall 10% removed: 0.7617 +covertype_test_f1-score 10% removed: 0.7587 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 913 samples (57.06%) + Class 2: 585 samples (36.56%) + Class 3: 48 samples (3.00%) + Class 4: 30 samples (1.88%) + Class 5: 9 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7669 +covertype_test_precision 20% removed: 0.7649 +covertype_test_recall 20% removed: 0.7669 +covertype_test_f1-score 20% removed: 0.7641 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 592 samples (59.20%) + Class 2: 361 samples (36.10%) + Class 3: 34 samples (3.40%) + Class 4: 7 samples (0.70%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7550 +covertype_test_precision 50% removed: 0.7536 +covertype_test_recall 50% removed: 0.7550 +covertype_test_f1-score 50% removed: 0.7501 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpdv_aufda/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpdv_aufda/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpdv_aufda/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpdv_aufda/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 116.17it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7547547817230225 │ +│ covertype_val_f1-score │ 0.7523356676101685 │ +│ covertype_val_loss │ 0.5995481014251709 │ +│ covertype_val_precision │ 0.7550923824310303 │ +│ covertype_val_recall │ 0.7547547817230225 │ +│ covertype_val_score │ 0.7547547817230225 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 357.29it/s +Validation metrics: [{'covertype_val_loss': 0.5995481014251709, 'lr': 0.0, 'covertype_val_accuracy': 0.7547547817230225, 'covertype_val_precision': 0.7550923824310303, 'covertype_val_recall': 0.7547547817230225, 'covertype_val_f1-score': 0.7523356676101685, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7547547817230225}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 14 samples (0.70%) + Class 1: 1021 samples (51.05%) + Class 2: 709 samples (35.45%) + Class 3: 60 samples (3.00%) + Class 4: 125 samples (6.25%) + Class 5: 68 samples (3.40%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7620000243186951 │ +│ covertype_test_f1-score │ 0.7601243853569031 │ +│ covertype_test_loss │ 0.5972146391868591 │ +│ covertype_test_precision │ 0.7612651586532593 │ +│ covertype_test_recall │ 0.7620000243186951 │ +│ covertype_test_score │ 0.7620000243186951 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 363.39it/s +Test metrics: [{'covertype_test_loss': 0.5972146391868591, 'lr': 0.0, 'covertype_test_accuracy': 0.7620000243186951, 'covertype_test_precision': 0.7612651586532593, 'covertype_test_recall': 0.7620000243186951, 'covertype_test_f1-score': 0.7601243853569031, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7620000243186951}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 1007 samples (53.00%) + Class 2: 705 samples (37.11%) + Class 3: 57 samples (3.00%) + Class 4: 64 samples (3.37%) + Class 5: 54 samples (2.84%) +============================================================ +covertype_test_accuracy 5% removed: 0.7668 +covertype_test_precision 5% removed: 0.7647 +covertype_test_recall 5% removed: 0.7668 +covertype_test_f1-score 5% removed: 0.7646 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 978 samples (54.33%) + Class 2: 687 samples (38.17%) + Class 3: 54 samples (3.00%) + Class 4: 41 samples (2.28%) + Class 5: 27 samples (1.50%) +============================================================ +covertype_test_accuracy 10% removed: 0.7733 +covertype_test_precision 10% removed: 0.7696 +covertype_test_recall 10% removed: 0.7733 +covertype_test_f1-score 10% removed: 0.7703 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 878 samples (54.87%) + Class 2: 613 samples (38.31%) + Class 3: 53 samples (3.31%) + Class 4: 31 samples (1.94%) + Class 5: 13 samples (0.81%) +============================================================ +covertype_test_accuracy 20% removed: 0.7800 +covertype_test_precision 20% removed: 0.7777 +covertype_test_recall 20% removed: 0.7800 +covertype_test_f1-score 20% removed: 0.7777 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 563 samples (56.30%) + Class 2: 386 samples (38.60%) + Class 3: 37 samples (3.70%) + Class 4: 7 samples (0.70%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7850 +covertype_test_precision 50% removed: 0.7848 +covertype_test_recall 50% removed: 0.7850 +covertype_test_f1-score 50% removed: 0.7819 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpdv_aufda/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpdv_aufda/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpdv_aufda/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpdv_aufda/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 46/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 75.42it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7537537813186646 │ +│ covertype_val_f1-score │ 0.7520206570625305 │ +│ covertype_val_loss │ 0.6387907862663269 │ +│ covertype_val_precision │ 0.7537651062011719 │ +│ covertype_val_recall │ 0.7537537813186646 │ +│ covertype_val_score │ 0.7537537813186646 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 209.49it/s +Validation metrics: [{'covertype_val_loss': 0.6387907862663269, 'lr': 8.856373824528418e-06, 'covertype_val_accuracy': 0.7537537813186646, 'covertype_val_precision': 0.7537651062011719, 'covertype_val_recall': 0.7537537813186646, 'covertype_val_f1-score': 0.7520206570625305, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7537537813186646}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 21 samples (1.05%) + Class 1: 1013 samples (50.65%) + Class 2: 714 samples (35.70%) + Class 3: 58 samples (2.90%) + Class 4: 126 samples (6.30%) + Class 5: 64 samples (3.20%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7549999952316284 │ +│ covertype_test_f1-score │ 0.7542541027069092 │ +│ covertype_test_loss │ 0.6030367612838745 │ +│ covertype_test_precision │ 0.7551143765449524 │ +│ covertype_test_recall │ 0.7549999952316284 │ +│ covertype_test_score │ 0.7549999952316284 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 8.856373824528418e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 267.53it/s +Test metrics: [{'covertype_test_loss': 0.6030367612838745, 'lr': 8.856373824528418e-06, 'covertype_test_accuracy': 0.7549999952316284, 'covertype_test_precision': 0.7551143765449524, 'covertype_test_recall': 0.7549999952316284, 'covertype_test_f1-score': 0.7542541027069092, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7549999952316284}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 19 samples (1.00%) + Class 1: 1000 samples (52.63%) + Class 2: 711 samples (37.42%) + Class 3: 55 samples (2.89%) + Class 4: 63 samples (3.32%) + Class 5: 51 samples (2.68%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7611 +covertype_test_precision 5% removed: 0.7616 +covertype_test_recall 5% removed: 0.7611 +covertype_test_f1-score 5% removed: 0.7603 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 18 samples (1.00%) + Class 1: 970 samples (53.89%) + Class 2: 696 samples (38.67%) + Class 3: 53 samples (2.94%) + Class 4: 38 samples (2.11%) + Class 5: 24 samples (1.33%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7689 +covertype_test_precision 10% removed: 0.7677 +covertype_test_recall 10% removed: 0.7689 +covertype_test_f1-score 10% removed: 0.7673 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 15 samples (0.94%) + Class 1: 865 samples (54.06%) + Class 2: 625 samples (39.06%) + Class 3: 53 samples (3.31%) + Class 4: 30 samples (1.88%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7763 +covertype_test_precision 20% removed: 0.7751 +covertype_test_recall 20% removed: 0.7763 +covertype_test_f1-score 20% removed: 0.7749 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 9 samples (0.90%) + Class 1: 546 samples (54.60%) + Class 2: 398 samples (39.80%) + Class 3: 37 samples (3.70%) + Class 4: 7 samples (0.70%) + Class 5: 3 samples (0.30%) +============================================================ +covertype_test_accuracy 50% removed: 0.7780 +covertype_test_precision 50% removed: 0.7767 +covertype_test_recall 50% removed: 0.7780 +covertype_test_f1-score 50% removed: 0.7767 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpdv_aufda/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpdv_aufda/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpdv_aufda/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpdv_aufda/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 47/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 125.16it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7517517805099487 │ +│ covertype_val_f1-score │ 0.7464491724967957 │ +│ covertype_val_loss │ 0.6186650395393372 │ +│ covertype_val_precision │ 0.746959924697876 │ +│ covertype_val_recall │ 0.7517517805099487 │ +│ covertype_val_score │ 0.7517517805099487 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 350.34it/s +Validation metrics: [{'covertype_val_loss': 0.6186650395393372, 'lr': 3.9426490729965735e-06, 'covertype_val_accuracy': 0.7517517805099487, 'covertype_val_precision': 0.746959924697876, 'covertype_val_recall': 0.7517517805099487, 'covertype_val_f1-score': 0.7464491724967957, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7517517805099487}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 16 samples (0.80%) + Class 1: 997 samples (49.85%) + Class 2: 738 samples (36.90%) + Class 3: 57 samples (2.85%) + Class 4: 132 samples (6.60%) + Class 5: 56 samples (2.80%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7595000267028809 │ +│ covertype_test_f1-score │ 0.7577256560325623 │ +│ covertype_test_loss │ 0.5932055711746216 │ +│ covertype_test_precision │ 0.7591189742088318 │ +│ covertype_test_recall │ 0.7595000267028809 │ +│ covertype_test_score │ 0.7595000267028809 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 3.9426490729965735e-06 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 355.53it/s +Test metrics: [{'covertype_test_loss': 0.5932055711746216, 'lr': 3.9426490729965735e-06, 'covertype_test_accuracy': 0.7595000267028809, 'covertype_test_precision': 0.7591189742088318, 'covertype_test_recall': 0.7595000267028809, 'covertype_test_f1-score': 0.7577256560325623, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7595000267028809}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 15 samples (0.79%) + Class 1: 985 samples (51.84%) + Class 2: 735 samples (38.68%) + Class 3: 53 samples (2.79%) + Class 4: 67 samples (3.53%) + Class 5: 44 samples (2.32%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7653 +covertype_test_precision 5% removed: 0.7650 +covertype_test_recall 5% removed: 0.7653 +covertype_test_f1-score 5% removed: 0.7637 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 14 samples (0.78%) + Class 1: 952 samples (52.89%) + Class 2: 719 samples (39.94%) + Class 3: 52 samples (2.89%) + Class 4: 41 samples (2.28%) + Class 5: 21 samples (1.17%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7717 +covertype_test_precision 10% removed: 0.7706 +covertype_test_recall 10% removed: 0.7717 +covertype_test_f1-score 10% removed: 0.7695 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 852 samples (53.25%) + Class 2: 645 samples (40.31%) + Class 3: 51 samples (3.19%) + Class 4: 30 samples (1.88%) + Class 5: 8 samples (0.50%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7794 +covertype_test_precision 20% removed: 0.7777 +covertype_test_recall 20% removed: 0.7794 +covertype_test_f1-score 20% removed: 0.7774 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 533 samples (53.30%) + Class 2: 418 samples (41.80%) + Class 3: 35 samples (3.50%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7820 +covertype_test_precision 50% removed: 0.7796 +covertype_test_recall 50% removed: 0.7820 +covertype_test_f1-score 50% removed: 0.7795 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=autoint --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpdv_aufda/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --activation=relu --initialization=kaiming --n_layers=3 --d_token=128 --n_heads=2 --attention_dropout=0.1 --residual_dropout=0.1 --prenormalization=False --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpdv_aufda/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ autoint │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpdv_aufda/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpdv_aufda/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: autoint +╒════════════════════════╤════════════════╕ +│ activation │ relu │ +├────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────┼────────────────┤ +│ d_out │ 32 │ +├────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────┼────────────────┤ +│ dataset_name │ │ +├────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├────────────────────────┼────────────────┤ +│ kv_compression │ │ +├────────────────────────┼────────────────┤ +│ kv_compression_sharing │ │ +├────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +├────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ categories │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_layers │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_token │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_heads │ 2 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ activation │ relu │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prenormalization │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ initialization │ kaiming │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +==================================================================================================================================================================================== +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +==================================================================================================================================================================================== +AutoInt [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderAutoIntBase: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─AutoIntBase: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─Tokenizer: 4-1 [128, 54] [128, 54, 128] 6,912 -- 884,736 +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-1 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-1 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-1 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-2 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-3 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-4 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-2 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-3 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-3 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-2 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-4 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-5 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-6 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-7 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-8 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-5 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-6 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-5 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─ModuleList: 4-6 -- -- (recursive) -- -- +│ │ │ │ └─ModuleDict: 5-3 -- -- -- -- -- +│ │ │ │ │ └─MultiheadAttention: 6-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ │ │ │ └─Linear: 7-9 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-10 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Linear: 7-11 [128, 54, 128] [128, 54, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-12 [256, 54, 54] [256, 54, 54] -- -- -- +│ │ │ │ │ └─Linear: 6-8 [128, 54, 128] [128, 54, 128] 16,384 -- 2,097,152 +│ │ │ │ │ └─LayerNorm: 6-9 [128, 54, 128] [128, 54, 128] 256 -- 32,768 +│ │ │ └─ReLU: 4-7 [128, 54, 128] [128, 54, 128] -- -- -- +│ │ │ └─Linear: 4-8 [128, 6912] [128, 128] 884,864 -- 113,262,592 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +==================================================================================================================================================================================== +Total params: 1,277,885 +Trainable params: 1,277,885 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 163.57 +==================================================================================================================================================================================== +Input size (MB): 1.77 +Forward/backward pass size (MB): 113.44 +Params size (MB): 5.11 +Estimated Total Size (MB): 120.32 +==================================================================================================================================================================================== +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 1.3 M │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 1.3 M +Non-trainable params: 0 +Total params: 1.3 M +Total estimated model params size (MB): 5.112 +Modules in train mode: 35 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +Epoch 48/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 128.09it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7697697877883911 │ +│ covertype_val_f1-score │ 0.7655471563339233 │ +│ covertype_val_loss │ 0.6057931184768677 │ +│ covertype_val_precision │ 0.7645175457000732 │ +│ covertype_val_recall │ 0.7697697877883911 │ +│ covertype_val_score │ 0.7697697877883911 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 9.866357686405536e-07 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 355.07it/s +Validation metrics: [{'covertype_val_loss': 0.6057931184768677, 'lr': 9.866357686405536e-07, 'covertype_val_accuracy': 0.7697697877883911, 'covertype_val_precision': 0.7645175457000732, 'covertype_val_recall': 0.7697697877883911, 'covertype_val_f1-score': 0.7655471563339233, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7697697877883911}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 17 samples (0.85%) + Class 1: 1002 samples (50.10%) + Class 2: 737 samples (36.85%) + Class 3: 60 samples (3.00%) + Class 4: 131 samples (6.55%) + Class 5: 48 samples (2.40%) + Class 6: 5 samples (0.25%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7544999718666077 │ +│ covertype_test_f1-score │ 0.7525936961174011 │ +│ covertype_test_loss │ 0.5953058004379272 │ +│ covertype_test_precision │ 0.7537986636161804 │ +│ covertype_test_recall │ 0.7544999718666077 │ +│ covertype_test_score │ 0.7544999718666077 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 9.866358823273913e-07 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 358.71it/s +Test metrics: [{'covertype_test_loss': 0.5953058004379272, 'lr': 9.866358823273913e-07, 'covertype_test_accuracy': 0.7544999718666077, 'covertype_test_precision': 0.7537986636161804, 'covertype_test_recall': 0.7544999718666077, 'covertype_test_f1-score': 0.7525936961174011, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7544999718666077}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 16 samples (0.84%) + Class 1: 985 samples (51.84%) + Class 2: 733 samples (38.58%) + Class 3: 58 samples (3.05%) + Class 4: 66 samples (3.47%) + Class 5: 41 samples (2.16%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7611 +covertype_test_precision 5% removed: 0.7610 +covertype_test_recall 5% removed: 0.7611 +covertype_test_f1-score 5% removed: 0.7597 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 16 samples (0.89%) + Class 1: 953 samples (52.94%) + Class 2: 713 samples (39.61%) + Class 3: 57 samples (3.17%) + Class 4: 39 samples (2.17%) + Class 5: 21 samples (1.17%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7633 +covertype_test_precision 10% removed: 0.7626 +covertype_test_recall 10% removed: 0.7633 +covertype_test_f1-score 10% removed: 0.7616 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 14 samples (0.88%) + Class 1: 851 samples (53.19%) + Class 2: 639 samples (39.94%) + Class 3: 56 samples (3.50%) + Class 4: 31 samples (1.94%) + Class 5: 9 samples (0.56%) +============================================================ +covertype_test_accuracy 20% removed: 0.7719 +covertype_test_precision 20% removed: 0.7706 +covertype_test_recall 20% removed: 0.7719 +covertype_test_f1-score 20% removed: 0.7702 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 536 samples (53.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7700 +covertype_test_precision 50% removed: 0.7684 +covertype_test_recall 50% removed: 0.7700 +covertype_test_f1-score 50% removed: 0.7674 +Wrote results for autoint on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/autoint_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7558±0.0067 5%: 0.7622±0.0049 10%: 0.7678±0.0063 20%: 0.7749±0.0068 50%: 0.7740±0.0149 +covertype_test_precision 0%: 0.7551±0.0072 5%: 0.7616±0.0048 10%: 0.7660±0.0060 20%: 0.7732±0.0068 50%: 0.7726±0.0151 +covertype_test_recall 0%: 0.7558±0.0067 5%: 0.7622±0.0049 10%: 0.7678±0.0063 20%: 0.7749±0.0068 50%: 0.7740±0.0149 +covertype_test_f1-score 0%: 0.7539±0.0072 5%: 0.7606±0.0049 10%: 0.7655±0.0063 20%: 0.7729±0.0071 50%: 0.7711±0.0161 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 +Running downstream for dataset 'covertype', model 'fttransformer'... +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpbc_5gdsj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --torch_seed=0 --np_seed=0 --filter_uncertainty --output_file=/tmp/tmpbc_5gdsj/output_0.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpbc_5gdsj/output_0.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpbc_5gdsj/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 100.40it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.739739716053009 │ +│ covertype_val_f1-score │ 0.7329660058021545 │ +│ covertype_val_loss │ 0.5953397154808044 │ +│ covertype_val_precision │ 0.7400597929954529 │ +│ covertype_val_recall │ 0.739739716053009 │ +│ covertype_val_score │ 0.739739716053009 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 300.48it/s +Validation metrics: [{'covertype_val_loss': 0.5953397154808044, 'lr': 0.0, 'covertype_val_accuracy': 0.739739716053009, 'covertype_val_precision': 0.7400597929954529, 'covertype_val_recall': 0.739739716053009, 'covertype_val_f1-score': 0.7329660058021545, 'covertype_val_support': 999.0, 'covertype_val_score': 0.739739716053009}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 8 samples (0.40%) + Class 1: 1023 samples (51.15%) + Class 2: 722 samples (36.10%) + Class 3: 56 samples (2.80%) + Class 4: 145 samples (7.25%) + Class 5: 44 samples (2.20%) + Class 6: 2 samples (0.10%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7354999780654907 │ +│ covertype_test_f1-score │ 0.7305749654769897 │ +│ covertype_test_loss │ 0.5935904383659363 │ +│ covertype_test_precision │ 0.7337436676025391 │ +│ covertype_test_recall │ 0.7354999780654907 │ +│ covertype_test_score │ 0.7354999780654907 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 298.19it/s +Test metrics: [{'covertype_test_loss': 0.5935904383659363, 'lr': 0.0, 'covertype_test_accuracy': 0.7354999780654907, 'covertype_test_precision': 0.7337436676025391, 'covertype_test_recall': 0.7354999780654907, 'covertype_test_f1-score': 0.7305749654769897, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7354999780654907}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 8 samples (0.42%) + Class 1: 1012 samples (53.26%) + Class 2: 719 samples (37.84%) + Class 3: 52 samples (2.74%) + Class 4: 76 samples (4.00%) + Class 5: 33 samples (1.74%) +============================================================ +covertype_test_accuracy 5% removed: 0.7442 +covertype_test_precision 5% removed: 0.7413 +covertype_test_recall 5% removed: 0.7442 +covertype_test_f1-score 5% removed: 0.7401 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 8 samples (0.44%) + Class 1: 988 samples (54.89%) + Class 2: 697 samples (38.72%) + Class 3: 51 samples (2.83%) + Class 4: 46 samples (2.56%) + Class 5: 10 samples (0.56%) +============================================================ +covertype_test_accuracy 10% removed: 0.7500 +covertype_test_precision 10% removed: 0.7471 +covertype_test_recall 10% removed: 0.7500 +covertype_test_f1-score 10% removed: 0.7450 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 884 samples (55.25%) + Class 2: 619 samples (38.69%) + Class 3: 51 samples (3.19%) + Class 4: 34 samples (2.12%) + Class 5: 5 samples (0.31%) +============================================================ +covertype_test_accuracy 20% removed: 0.7588 +covertype_test_precision 20% removed: 0.7573 +covertype_test_recall 20% removed: 0.7588 +covertype_test_f1-score 20% removed: 0.7545 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 556 samples (55.60%) + Class 2: 394 samples (39.40%) + Class 3: 38 samples (3.80%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7590 +covertype_test_precision 50% removed: 0.7587 +covertype_test_recall 50% removed: 0.7590 +covertype_test_f1-score 50% removed: 0.7556 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpbc_5gdsj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --torch_seed=1 --np_seed=1 --filter_uncertainty --output_file=/tmp/tmpbc_5gdsj/output_1.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpbc_5gdsj/output_1.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpbc_5gdsj/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 91.15it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7627627849578857 │ +│ covertype_val_f1-score │ 0.7552015781402588 │ +│ covertype_val_loss │ 0.583936333656311 │ +│ covertype_val_precision │ 0.7584961652755737 │ +│ covertype_val_recall │ 0.7627627849578857 │ +│ covertype_val_score │ 0.7627627849578857 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 300.82it/s +Validation metrics: [{'covertype_val_loss': 0.583936333656311, 'lr': 0.0, 'covertype_val_accuracy': 0.7627627849578857, 'covertype_val_precision': 0.7584961652755737, 'covertype_val_recall': 0.7627627849578857, 'covertype_val_f1-score': 0.7552015781402588, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7627627849578857}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 13 samples (0.65%) + Class 1: 996 samples (49.80%) + Class 2: 742 samples (37.10%) + Class 3: 57 samples (2.85%) + Class 4: 136 samples (6.80%) + Class 5: 53 samples (2.65%) + Class 6: 3 samples (0.15%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7645000219345093 │ +│ covertype_test_f1-score │ 0.762042760848999 │ +│ covertype_test_loss │ 0.565267026424408 │ +│ covertype_test_precision │ 0.764583170413971 │ +│ covertype_test_recall │ 0.7645000219345093 │ +│ covertype_test_score │ 0.7645000219345093 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 299.57it/s +Test metrics: [{'covertype_test_loss': 0.565267026424408, 'lr': 0.0, 'covertype_test_accuracy': 0.7645000219345093, 'covertype_test_precision': 0.764583170413971, 'covertype_test_recall': 0.7645000219345093, 'covertype_test_f1-score': 0.762042760848999, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7645000219345093}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 984 samples (51.79%) + Class 2: 739 samples (38.89%) + Class 3: 53 samples (2.79%) + Class 4: 64 samples (3.37%) + Class 5: 47 samples (2.47%) +============================================================ +covertype_test_accuracy 5% removed: 0.7726 +covertype_test_precision 5% removed: 0.7717 +covertype_test_recall 5% removed: 0.7726 +covertype_test_f1-score 5% removed: 0.7706 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 953 samples (52.94%) + Class 2: 721 samples (40.06%) + Class 3: 52 samples (2.89%) + Class 4: 40 samples (2.22%) + Class 5: 21 samples (1.17%) +============================================================ +covertype_test_accuracy 10% removed: 0.7756 +covertype_test_precision 10% removed: 0.7732 +covertype_test_recall 10% removed: 0.7756 +covertype_test_f1-score 10% removed: 0.7729 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 12 samples (0.75%) + Class 1: 856 samples (53.50%) + Class 2: 641 samples (40.06%) + Class 3: 52 samples (3.25%) + Class 4: 29 samples (1.81%) + Class 5: 10 samples (0.62%) +============================================================ +covertype_test_accuracy 20% removed: 0.7850 +covertype_test_precision 20% removed: 0.7830 +covertype_test_recall 20% removed: 0.7850 +covertype_test_f1-score 20% removed: 0.7828 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 5 samples (0.50%) + Class 1: 532 samples (53.20%) + Class 2: 420 samples (42.00%) + Class 3: 35 samples (3.50%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7780 +covertype_test_precision 50% removed: 0.7767 +covertype_test_recall 50% removed: 0.7780 +covertype_test_f1-score 50% removed: 0.7754 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpbc_5gdsj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --torch_seed=2 --np_seed=2 --filter_uncertainty --output_file=/tmp/tmpbc_5gdsj/output_2.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpbc_5gdsj/output_2.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpbc_5gdsj/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 2 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 92.06it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7467467188835144 │ +│ covertype_val_f1-score │ 0.7410245537757874 │ +│ covertype_val_loss │ 0.5948187112808228 │ +│ covertype_val_precision │ 0.7449427247047424 │ +│ covertype_val_recall │ 0.7467467188835144 │ +│ covertype_val_score │ 0.7467467188835144 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 304.98it/s +Validation metrics: [{'covertype_val_loss': 0.5948187112808228, 'lr': 0.0, 'covertype_val_accuracy': 0.7467467188835144, 'covertype_val_precision': 0.7449427247047424, 'covertype_val_recall': 0.7467467188835144, 'covertype_val_f1-score': 0.7410245537757874, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7467467188835144}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 13 samples (0.65%) + Class 1: 998 samples (49.90%) + Class 2: 742 samples (37.10%) + Class 3: 58 samples (2.90%) + Class 4: 141 samples (7.05%) + Class 5: 44 samples (2.20%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7465000152587891 │ +│ covertype_test_f1-score │ 0.743770182132721 │ +│ covertype_test_loss │ 0.5788597464561462 │ +│ covertype_test_precision │ 0.7464768886566162 │ +│ covertype_test_recall │ 0.7465000152587891 │ +│ covertype_test_score │ 0.7465000152587891 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 302.80it/s +Test metrics: [{'covertype_test_loss': 0.5788597464561462, 'lr': 0.0, 'covertype_test_accuracy': 0.7465000152587891, 'covertype_test_precision': 0.7464768886566162, 'covertype_test_recall': 0.7465000152587891, 'covertype_test_f1-score': 0.743770182132721, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7465000152587891}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 13 samples (0.68%) + Class 1: 984 samples (51.79%) + Class 2: 740 samples (38.95%) + Class 3: 54 samples (2.84%) + Class 4: 72 samples (3.79%) + Class 5: 36 samples (1.89%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7563 +covertype_test_precision 5% removed: 0.7569 +covertype_test_recall 5% removed: 0.7563 +covertype_test_f1-score 5% removed: 0.7546 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 13 samples (0.72%) + Class 1: 957 samples (53.17%) + Class 2: 719 samples (39.94%) + Class 3: 53 samples (2.94%) + Class 4: 47 samples (2.61%) + Class 5: 10 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7600 +covertype_test_precision 10% removed: 0.7605 +covertype_test_recall 10% removed: 0.7600 +covertype_test_f1-score 10% removed: 0.7573 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 13 samples (0.81%) + Class 1: 849 samples (53.06%) + Class 2: 645 samples (40.31%) + Class 3: 53 samples (3.31%) + Class 4: 36 samples (2.25%) + Class 5: 3 samples (0.19%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7644 +covertype_test_precision 20% removed: 0.7642 +covertype_test_recall 20% removed: 0.7644 +covertype_test_f1-score 20% removed: 0.7619 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 4 samples (0.40%) + Class 1: 537 samples (53.70%) + Class 2: 415 samples (41.50%) + Class 3: 36 samples (3.60%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7580 +covertype_test_precision 50% removed: 0.7589 +covertype_test_recall 50% removed: 0.7580 +covertype_test_f1-score 50% removed: 0.7555 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpbc_5gdsj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --torch_seed=3 --np_seed=3 --filter_uncertainty --output_file=/tmp/tmpbc_5gdsj/output_3.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpbc_5gdsj/output_3.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpbc_5gdsj/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 3 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 92.78it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7387387156486511 │ +│ covertype_val_f1-score │ 0.7302302718162537 │ +│ covertype_val_loss │ 0.5990468263626099 │ +│ covertype_val_precision │ 0.7285147905349731 │ +│ covertype_val_recall │ 0.7387387156486511 │ +│ covertype_val_score │ 0.7387387156486511 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 302.24it/s +Validation metrics: [{'covertype_val_loss': 0.5990468263626099, 'lr': 0.0, 'covertype_val_accuracy': 0.7387387156486511, 'covertype_val_precision': 0.7285147905349731, 'covertype_val_recall': 0.7387387156486511, 'covertype_val_f1-score': 0.7302302718162537, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7387387156486511}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 7 samples (0.35%) + Class 1: 1014 samples (50.70%) + Class 2: 734 samples (36.70%) + Class 3: 57 samples (2.85%) + Class 4: 149 samples (7.45%) + Class 5: 35 samples (1.75%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7609999775886536 │ +│ covertype_test_f1-score │ 0.7555860280990601 │ +│ covertype_test_loss │ 0.5694550275802612 │ +│ covertype_test_precision │ 0.760741114616394 │ +│ covertype_test_recall │ 0.7609999775886536 │ +│ covertype_test_score │ 0.7609999775886536 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 306.03it/s +Test metrics: [{'covertype_test_loss': 0.5694550275802612, 'lr': 0.0, 'covertype_test_accuracy': 0.7609999775886536, 'covertype_test_precision': 0.760741114616394, 'covertype_test_recall': 0.7609999775886536, 'covertype_test_f1-score': 0.7555860280990601, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7609999775886536}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 7 samples (0.37%) + Class 1: 1002 samples (52.74%) + Class 2: 731 samples (38.47%) + Class 3: 53 samples (2.79%) + Class 4: 76 samples (4.00%) + Class 5: 30 samples (1.58%) + Class 6: 1 samples (0.05%) +============================================================ +covertype_test_accuracy 5% removed: 0.7695 +covertype_test_precision 5% removed: 0.7693 +covertype_test_recall 5% removed: 0.7695 +covertype_test_f1-score 5% removed: 0.7655 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 7 samples (0.39%) + Class 1: 973 samples (54.06%) + Class 2: 711 samples (39.50%) + Class 3: 52 samples (2.89%) + Class 4: 46 samples (2.56%) + Class 5: 10 samples (0.56%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 10% removed: 0.7722 +covertype_test_precision 10% removed: 0.7713 +covertype_test_recall 10% removed: 0.7722 +covertype_test_f1-score 10% removed: 0.7673 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 6 samples (0.38%) + Class 1: 863 samples (53.94%) + Class 2: 638 samples (39.88%) + Class 3: 52 samples (3.25%) + Class 4: 33 samples (2.06%) + Class 5: 7 samples (0.44%) + Class 6: 1 samples (0.06%) +============================================================ +covertype_test_accuracy 20% removed: 0.7887 +covertype_test_precision 20% removed: 0.7898 +covertype_test_recall 20% removed: 0.7887 +covertype_test_f1-score 20% removed: 0.7853 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 543 samples (54.30%) + Class 2: 407 samples (40.70%) + Class 3: 36 samples (3.60%) + Class 4: 8 samples (0.80%) +============================================================ +covertype_test_accuracy 50% removed: 0.7920 +covertype_test_precision 50% removed: 0.7903 +covertype_test_recall 50% removed: 0.7920 +covertype_test_f1-score 50% removed: 0.7896 +Running command: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python -m src.run_benchmark --data_path=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 --data_set=covertype --model_name=fttransformer --using_embedding=True --emb_train=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --emb_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/embedding.npy --uncertainty_test=/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy --use_split_assignments=True --exp_train_total_epochs=50 --split_config_file=/tmp/tmpbc_5gdsj/split_data/split_config.json --sigma_aggregation=mean --lr=0.001 --weight_decay=0.01 --batch_size=128 --exp_patience=16 --encoder_type=linear_flatten --n_blocks=3 --d_block=128 --attention_n_heads=4 --attention_dropout=0.1 --ffn_d_hidden_multiplier=2.0 --ffn_dropout=0.1 --residual_dropout=0.0 --torch_seed=4 --np_seed=4 --filter_uncertainty --output_file=/tmp/tmpbc_5gdsj/output_4.json +General args: +╒════════════════════════════╤════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╕ +│ T_max │ 10 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ batch_size │ 128 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_loader_nprocs │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_path │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA-wjepa-no-mask-644c441/baselines/Var-T-JEPA/datasets/subset_views/size_10000 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ data_set │ covertype │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cache_cadence │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_cadence_type │ recurrent │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_device │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_n_runs │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_patience │ 16 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_train_total_epochs │ 50 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_warmup │ 1e-05 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ exp_weight_decay_scheduler │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ filter_uncertainty │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ final_weight_decay │ 0.01 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ full_dataset_cuda │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ gradient_clipping │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ ipe_scale │ 1.0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_from_checkpoint │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ load_path │ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ log_tensorboard │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mock │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_amp │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_dtype │ float32 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ model_name │ fttransformer │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_distributed │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_gpus │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nodes │ 1 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ mp_nr │ 0 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ np_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ output_file │ /tmp/tmpbc_5gdsj/output_4.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ pin_memory │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ random │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ res_dir │ ./ │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ split_config_file │ /tmp/tmpbc_5gdsj/split_data/split_config.json │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ start_lr │ 0.001 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ test │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ torch_seed │ 4 │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ uncertainty_test │ /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/uncertainty.npy │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ use_split_assignments │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ using_embedding │ True │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ verbose │ False │ +├────────────────────────────┼────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┤ +│ weight_decay │ 0.01 │ +╘════════════════════════════╧════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════════╛ +Loading model: fttransformer +╒═════════════════════════╤════════════════╕ +│ attention_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├─────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├─────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├─────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├─────────────────────────┼────────────────┤ +│ dataset_name │ │ +├─────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden │ │ +├─────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├─────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├─────────────────────────┼────────────────┤ +│ input_dim │ 54 │ +├─────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├─────────────────────────┼────────────────┤ +│ iterations_per_epoch │ 55 │ +├─────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├─────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├─────────────────────────┼────────────────┤ +│ num_epochs │ 50 │ +├─────────────────────────┼────────────────┤ +│ out_dim │ 7 │ +├─────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├─────────────────────────┼────────────────┤ +│ summary_input │ (128, 54, 64) │ +╘═════════════════════════╧════════════════╛ +Model Parameters +╒════════════════════════════════════════════════════╤════════════════╕ +│ Param │ Value │ +╞════════════════════════════════════════════════════╪════════════════╡ +│ input_dim │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_cont_features │ 54 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ cat_cardinalities │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_out │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ n_blocks │ 3 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ d_block │ 128 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_n_heads │ 4 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ attention_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_d_hidden_multiplier │ 2.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ ffn_dropout │ 0.1 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ residual_dropout │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ encoder_type │ linear_flatten │ +├────────────────────────────────────────────────────┼────────────────┤ +│ input_embed_dim │ 64 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ using_embedding │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ training │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ prepare_data_per_node │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ allow_zero_length_dataloader_with_multiple_devices │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _log_hyperparams │ False │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _automatic_optimization │ True │ +├────────────────────────────────────────────────────┼────────────────┤ +│ _fabric_optimizers │ [] │ +├────────────────────────────────────────────────────┼────────────────┤ +│ lr │ 0.001 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ weight_decay │ 0.01 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ T_max │ 2750 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ eta_min │ 0.0 │ +├────────────────────────────────────────────────────┼────────────────┤ +│ dataset_name │ covertype │ +├────────────────────────────────────────────────────┼────────────────┤ +│ task_type │ multi_class │ +├────────────────────────────────────────────────────┼────────────────┤ +│ suppress_class_frequency_prints │ False │ +╘════════════════════════════════════════════════════╧════════════════╛ +========================================================================================================================================================================================= +Layer (type:depth-idx) Input Shape Output Shape Param # Kernel Shape Mult-Adds +========================================================================================================================================================================================= +FTTransformer [128, 54, 64] [128, 7] -- -- -- +├─Sequential: 1-1 [128, 54, 64] [128, 128] -- -- -- +│ └─EncodeEmbeddingFeatures: 2-1 [128, 54, 64] [128, 54] -- -- -- +│ │ └─Linear: 3-1 [128, 3456] [128, 54] 186,678 -- 23,894,784 +│ └─EncoderFTTransformer: 2-2 [128, 54] [128, 128] -- -- -- +│ │ └─FTTransformer: 3-2 [128, 54] [128, 128] -- -- -- +│ │ │ └─_CLSEmbedding: 4-1 -- [128, 1, 128] 128 -- 16,384 +│ │ │ └─LinearEmbeddings: 4-2 [128, 54] [128, 54, 128] 13,824 -- 1,769,472 +│ │ │ └─FTTransformerBackbone: 4-3 [128, 55, 128] [128, 128] -- -- -- +│ │ │ │ └─ModuleList: 5-1 -- -- -- -- -- +│ │ │ │ │ └─ModuleDict: 6-1 -- -- -- -- -- +│ │ │ │ │ │ └─MultiheadAttention: 7-1 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-1 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-2 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-3 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-4 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-5 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-2 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-3 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-4 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-6 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-7 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-8 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-9 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-5 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-6 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-2 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-7 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-8 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-10 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-11 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-12 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-13 [512, 55, 55] [512, 55, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-14 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-9 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-10 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-11 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-15 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-16 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-17 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-18 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-12 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-13 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ └─ModuleDict: 6-3 -- -- -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-14 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─MultiheadAttention: 7-15 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-19 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-20 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Linear: 8-21 [128, 55, 128] [128, 55, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ │ └─Dropout: 8-22 [512, 1, 55] [512, 1, 55] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-23 [128, 1, 128] [128, 1, 128] 16,512 -- 2,113,536 +│ │ │ │ │ │ └─Dropout: 7-16 [128, 1, 128] [128, 1, 128] -- -- -- +│ │ │ │ │ │ └─LayerNorm: 7-17 [128, 55, 128] [128, 55, 128] 256 -- 32,768 +│ │ │ │ │ │ └─Sequential: 7-18 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-24 [128, 55, 128] [128, 55, 512] 66,048 -- 8,454,144 +│ │ │ │ │ │ │ └─_ReGLU: 8-25 [128, 55, 512] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Dropout: 8-26 [128, 55, 256] [128, 55, 256] -- -- -- +│ │ │ │ │ │ │ └─Linear: 8-27 [128, 55, 256] [128, 55, 128] 32,896 -- 4,210,688 +│ │ │ │ │ │ └─Dropout: 7-19 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ │ │ └─Identity: 7-20 [128, 55, 128] [128, 55, 128] -- -- -- +│ │ │ │ └─Sequential: 5-2 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─LayerNorm: 6-4 [128, 128] [128, 128] 256 -- 32,768 +│ │ │ │ │ └─ReLU: 6-5 [128, 128] [128, 128] -- -- -- +│ │ │ │ │ └─Linear: 6-6 [128, 128] [128, 128] 16,512 -- 2,113,536 +├─Linear: 1-2 [128, 128] [128, 7] 903 -- 115,584 +========================================================================================================================================================================================= +Total params: 714,557 +Trainable params: 714,557 +Non-trainable params: 0 +Total mult-adds (Units.MEGABYTES): 91.46 +========================================================================================================================================================================================= +Input size (MB): 1.77 +Forward/backward pass size (MB): 224.06 +Params size (MB): 2.86 +Estimated Total Size (MB): 228.69 +========================================================================================================================================================================================= +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. +`Trainer(limit_train_batches=1.0)` was configured so 100% of the batches per epoch will be used.. +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +┏━━━┳━━━━━━━━━┳━━━━━━━━━━━━━━━━━━┳━━━━━━━━┳━━━━━━━┳━━━━━━━┓ +┃ ┃ Name ┃ Type ┃ Params ┃ Mode ┃ FLOPs ┃ +┡━━━╇━━━━━━━━━╇━━━━━━━━━━━━━━━━━━╇━━━━━━━━╇━━━━━━━╇━━━━━━━┩ +│ 0 │ loss │ CrossEntropyLoss │ 0 │ train │ 0 │ +│ 1 │ head │ Linear │ 903 │ train │ 0 │ +│ 2 │ encoder │ Sequential │ 713 K │ train │ 0 │ +└───┴─────────┴──────────────────┴────────┴───────┴───────┘ +Trainable params: 714 K +Non-trainable params: 0 +Total params: 714 K +Total estimated model params size (MB): 2.858 +Modules in train mode: 65 +Modules in eval mode: 0 +Total FLOPs: 0 +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'train_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +`Trainer.fit` stopped: `max_epochs=50` reached. +Epoch 49/49 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 55/55 0:00:00 • 0:00:00 100.12it/s +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'val_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Validate metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_val_accuracy │ 0.7537537813186646 │ +│ covertype_val_f1-score │ 0.747601330280304 │ +│ covertype_val_loss │ 0.5982744097709656 │ +│ covertype_val_precision │ 0.748261570930481 │ +│ covertype_val_recall │ 0.7537537813186646 │ +│ covertype_val_score │ 0.7537537813186646 │ +│ covertype_val_support │ 999.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Validation ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 8/8 0:00:00 • 0:00:00 298.74it/s +Validation metrics: [{'covertype_val_loss': 0.5982744097709656, 'lr': 0.0, 'covertype_val_accuracy': 0.7537537813186646, 'covertype_val_precision': 0.748261570930481, 'covertype_val_recall': 0.7537537813186646, 'covertype_val_f1-score': 0.747601330280304, 'covertype_val_support': 999.0, 'covertype_val_score': 0.7537537813186646}] +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 32 samples (1.60%) + Class 1: 1017 samples (50.85%) + Class 2: 708 samples (35.40%) + Class 3: 64 samples (3.20%) + Class 4: 108 samples (5.40%) + Class 5: 63 samples (3.15%) + Class 6: 8 samples (0.40%) +Predicted class frequencies: + Class 0: 8 samples (0.40%) + Class 1: 987 samples (49.35%) + Class 2: 756 samples (37.80%) + Class 3: 60 samples (3.00%) + Class 4: 140 samples (7.00%) + Class 5: 45 samples (2.25%) + Class 6: 4 samples (0.20%) +============================================================ +┏━━━━━━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━━━━┓ +┃ Test metric ┃ DataLoader 0 ┃ +┡━━━━━━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━━━━┩ +│ covertype_test_accuracy │ 0.7440000176429749 │ +│ covertype_test_f1-score │ 0.7399305701255798 │ +│ covertype_test_loss │ 0.5852895379066467 │ +│ covertype_test_precision │ 0.743695855140686 │ +│ covertype_test_recall │ 0.7440000176429749 │ +│ covertype_test_score │ 0.7440000176429749 │ +│ covertype_test_support │ 2000.0 │ +│ lr │ 0.0 │ +└───────────────────────────┴───────────────────────────┘ +Testing ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 16/16 0:00:00 • 0:00:00 298.17it/s +Test metrics: [{'covertype_test_loss': 0.5852895379066467, 'lr': 0.0, 'covertype_test_accuracy': 0.7440000176429749, 'covertype_test_precision': 0.743695855140686, 'covertype_test_recall': 0.7440000176429749, 'covertype_test_f1-score': 0.7399305701255798, 'covertype_test_support': 2000.0, 'covertype_test_score': 0.7440000176429749}] +GPU available: True (cuda), used: True +TPU available: False, using: 0 TPU cores +💡 Tip: For seamless cloud logging and experiment tracking, try installing [litlogger](https://pypi.org/project/litlogger/) to enable LitLogger, which logs metrics and artifacts automatically to the Lightning Experiments platform. + +Filtered Test Metrics (removing most uncertain samples): +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.63%) + Class 1: 997 samples (52.47%) + Class 2: 705 samples (37.11%) + Class 3: 60 samples (3.16%) + Class 4: 64 samples (3.37%) + Class 5: 39 samples (2.05%) + Class 6: 4 samples (0.21%) +Predicted class frequencies: + Class 0: 8 samples (0.42%) + Class 1: 974 samples (51.26%) + Class 2: 753 samples (39.63%) + Class 3: 56 samples (2.95%) + Class 4: 76 samples (4.00%) + Class 5: 33 samples (1.74%) +============================================================ +covertype_test_accuracy 5% removed: 0.7495 +covertype_test_precision 5% removed: 0.7479 +covertype_test_recall 5% removed: 0.7495 +covertype_test_f1-score 5% removed: 0.7458 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 31 samples (1.72%) + Class 1: 960 samples (53.33%) + Class 2: 687 samples (38.17%) + Class 3: 58 samples (3.22%) + Class 4: 38 samples (2.11%) + Class 5: 22 samples (1.22%) + Class 6: 4 samples (0.22%) +Predicted class frequencies: + Class 0: 8 samples (0.44%) + Class 1: 947 samples (52.61%) + Class 2: 734 samples (40.78%) + Class 3: 55 samples (3.06%) + Class 4: 46 samples (2.56%) + Class 5: 10 samples (0.56%) +============================================================ +covertype_test_accuracy 10% removed: 0.7528 +covertype_test_precision 10% removed: 0.7508 +covertype_test_recall 10% removed: 0.7528 +covertype_test_f1-score 10% removed: 0.7482 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 27 samples (1.69%) + Class 1: 852 samples (53.25%) + Class 2: 625 samples (39.06%) + Class 3: 58 samples (3.62%) + Class 4: 26 samples (1.62%) + Class 5: 11 samples (0.69%) + Class 6: 1 samples (0.06%) +Predicted class frequencies: + Class 0: 7 samples (0.44%) + Class 1: 836 samples (52.25%) + Class 2: 662 samples (41.38%) + Class 3: 55 samples (3.44%) + Class 4: 35 samples (2.19%) + Class 5: 5 samples (0.31%) +============================================================ +covertype_test_accuracy 20% removed: 0.7581 +covertype_test_precision 20% removed: 0.7588 +covertype_test_recall 20% removed: 0.7581 +covertype_test_f1-score 20% removed: 0.7548 +LOCAL_RANK: 0 - CUDA_VISIBLE_DEVICES: [2] +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/utilities/_pytree.py:21: `isinstance(treespec, LeafSpec)` is deprecated, use `isinstance(treespec, TreeSpec) and treespec.is_leaf()` instead. +/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/lib/python3.11/site-packages/pytorch_lightning/trainer/connectors/data_connector.py:434: The 'test_dataloader' does not have many workers which may be a bottleneck. Consider increasing the value of the `num_workers` argument` to `num_workers=31` in the `DataLoader` to improve performance. + +=== CLASS FREQUENCIES (TEST) === +True class frequencies: + Class 0: 14 samples (1.40%) + Class 1: 526 samples (52.60%) + Class 2: 411 samples (41.10%) + Class 3: 40 samples (4.00%) + Class 4: 7 samples (0.70%) + Class 5: 2 samples (0.20%) +Predicted class frequencies: + Class 0: 6 samples (0.60%) + Class 1: 517 samples (51.70%) + Class 2: 428 samples (42.80%) + Class 3: 40 samples (4.00%) + Class 4: 8 samples (0.80%) + Class 5: 1 samples (0.10%) +============================================================ +covertype_test_accuracy 50% removed: 0.7530 +covertype_test_precision 50% removed: 0.7525 +covertype_test_recall 50% removed: 0.7530 +covertype_test_f1-score 50% removed: 0.7515 +Wrote results for fttransformer on covertype to /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results/fttransformer_covertype_downstream_results.json + +Test Metrics by Uncertainty Filtering Percentage: +covertype_test_accuracy 0%: 0.7503±0.0151 5%: 0.7584±0.0153 10%: 0.7621±0.0142 20%: 0.7710±0.0183 50%: 0.7680±0.0204 +covertype_test_precision 0%: 0.7498±0.0158 5%: 0.7574±0.0164 10%: 0.7606±0.0146 20%: 0.7706±0.0184 50%: 0.7674±0.0194 +covertype_test_recall 0%: 0.7503±0.0151 5%: 0.7584±0.0153 10%: 0.7621±0.0142 20%: 0.7710±0.0183 50%: 0.7680±0.0204 +covertype_test_f1-score 0%: 0.7464±0.0156 5%: 0.7553±0.0160 10%: 0.7581±0.0149 20%: 0.7679±0.0187 50%: 0.7655±0.0203 +covertype_test_support 0%: 2000.0000±0.0000 5%: 1900.0000±0.0000 10%: 1800.0000±0.0000 20%: 1600.0000±0.0000 50%: 1000.0000±0.0000 + +================================================================================ +FINAL SUMMARY: Test Accuracy by Model and Uncertainty Filtering Percentage +Dataset: covertype +================================================================================ +Model 0% removed 5% removed 10% removed 20% removed 50% removed +-------------------------------------------------------------------------------- +mlp 0.6657±0.0454 0.6706±0.0452 0.6724±0.0464 0.6760±0.0469 0.6790±0.0603 +dcnv2 0.7873±0.0041 0.7953±0.0025 0.8000±0.0026 0.8096±0.0030 0.8108±0.0057 +resnet 0.7720±0.0143 0.7784±0.0148 0.7836±0.0143 0.7914±0.0139 0.7878±0.0167 +autoint 0.7558±0.0067 0.7622±0.0049 0.7678±0.0063 0.7749±0.0068 0.7740±0.0149 +fttransformer 0.7503±0.0151 0.7584±0.0153 0.7621±0.0142 0.7710±0.0183 0.7680±0.0204 +================================================================================ + +Downstream pipeline complete. Results under /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_proj65536_32768_flattened_20260913/pretrain/wjepa_joint/covertype/20260913_160004/downstream_results diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..06425a51dab450199b22266126d4bb49d7cecb28 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T17:57:07.675225+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0001, + "sw_z_weight": 0.0001, + "sw_s_y_weight": 0.0001, + "lambda_joint": 0.00025, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..994e8786a36a60447562d1d48ff1b3e5c68fae7a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0001, + "sw_z_weight": 0.0001, + "sw_s_y_weight": 0.0001, + "lambda_joint": 0.00025, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.00025", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.0001", + "--sw-z-end-weight", + "0.0001", + "--sw-s-y-end-weight", + "0.0001", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..66a147efdda1f861a698730ba9f5d8fed5cf74bc --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.00025, + "s_x": 0.0001, + "z": 0.0001, + "s_y": 0.0001 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.00025", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.0001", + "--sw_z_weight", + "0.0001", + "--sw_s_y_weight", + "0.0001", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..d789ce975f5246f1ceed993ba930e6a09b34e780 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpm8roivjb", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpm8roivjb/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6832314729690552, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7357357144355774, + "covertype_val_precision": 0.7326117157936096, + "covertype_val_recall": 0.7357357144355774, + "covertype_val_f1-score": 0.7222033739089966, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7357357144355774 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.695438027381897, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7264999747276306, + "covertype_test_precision": 0.7142079472541809, + "covertype_test_recall": 0.7264999747276306, + "covertype_test_f1-score": 0.7119799852371216, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7264999747276306 + }, + "5": { + "covertype_test_loss": 0.6139057278633118, + "covertype_test_accuracy": 0.7357894778251648, + "covertype_test_precision": 0.7279121279716492, + "covertype_test_recall": 0.7357894778251648, + "covertype_test_f1-score": 0.7242641448974609, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7357894778251648 + }, + "10": { + "covertype_test_loss": 0.6015644669532776, + "covertype_test_accuracy": 0.7405555844306946, + "covertype_test_precision": 0.7360895276069641, + "covertype_test_recall": 0.7405555844306946, + "covertype_test_f1-score": 0.7315396666526794, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7405555844306946 + }, + "20": { + "covertype_test_loss": 0.5830239653587341, + "covertype_test_accuracy": 0.7443749904632568, + "covertype_test_precision": 0.7393835186958313, + "covertype_test_recall": 0.7443749904632568, + "covertype_test_f1-score": 0.7368297576904297, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7443749904632568 + }, + "50": { + "covertype_test_loss": 0.5630953907966614, + "covertype_test_accuracy": 0.7509999871253967, + "covertype_test_precision": 0.7550930380821228, + "covertype_test_recall": 0.7509999871253967, + "covertype_test_f1-score": 0.7442334890365601, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7509999871253967 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6560298204421997, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7207207083702087, + "covertype_val_precision": 0.724679172039032, + "covertype_val_recall": 0.7207207083702087, + "covertype_val_f1-score": 0.7092669606208801, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7207207083702087 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6398398876190186, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.718999981880188, + "covertype_test_precision": 0.7142928242683411, + "covertype_test_recall": 0.718999981880188, + "covertype_test_f1-score": 0.7092664837837219, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.718999981880188 + }, + "5": { + "covertype_test_loss": 0.6257995367050171, + "covertype_test_accuracy": 0.7252631783485413, + "covertype_test_precision": 0.7190040349960327, + "covertype_test_recall": 0.7252631783485413, + "covertype_test_f1-score": 0.717248797416687, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7252631783485413 + }, + "10": { + "covertype_test_loss": 0.6147387027740479, + "covertype_test_accuracy": 0.7316666841506958, + "covertype_test_precision": 0.7253771424293518, + "covertype_test_recall": 0.7316666841506958, + "covertype_test_f1-score": 0.7252100110054016, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7316666841506958 + }, + "20": { + "covertype_test_loss": 0.5957249999046326, + "covertype_test_accuracy": 0.7362499833106995, + "covertype_test_precision": 0.727689802646637, + "covertype_test_recall": 0.7362499833106995, + "covertype_test_f1-score": 0.7300944924354553, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7362499833106995 + }, + "50": { + "covertype_test_loss": 0.5705163478851318, + "covertype_test_accuracy": 0.7480000257492065, + "covertype_test_precision": 0.7359251976013184, + "covertype_test_recall": 0.7480000257492065, + "covertype_test_f1-score": 0.7414699792861938, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7480000257492065 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6454795002937317, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7317317128181458, + "covertype_val_precision": 0.7182213068008423, + "covertype_val_recall": 0.7317317128181458, + "covertype_val_f1-score": 0.7146077156066895, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7317317128181458 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6415985226631165, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7310000061988831, + "covertype_test_precision": 0.7135544419288635, + "covertype_test_recall": 0.7310000061988831, + "covertype_test_f1-score": 0.7144062519073486, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7310000061988831 + }, + "5": { + "covertype_test_loss": 0.6254245042800903, + "covertype_test_accuracy": 0.7378947138786316, + "covertype_test_precision": 0.7189624905586243, + "covertype_test_recall": 0.7378947138786316, + "covertype_test_f1-score": 0.725081205368042, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7378947138786316 + }, + "10": { + "covertype_test_loss": 0.6115043759346008, + "covertype_test_accuracy": 0.7438889145851135, + "covertype_test_precision": 0.7287262082099915, + "covertype_test_recall": 0.7438889145851135, + "covertype_test_f1-score": 0.7332903146743774, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7438889145851135 + }, + "20": { + "covertype_test_loss": 0.5904674530029297, + "covertype_test_accuracy": 0.7493749856948853, + "covertype_test_precision": 0.7363643050193787, + "covertype_test_recall": 0.7493749856948853, + "covertype_test_f1-score": 0.7414432168006897, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7493749856948853 + }, + "50": { + "covertype_test_loss": 0.5685831308364868, + "covertype_test_accuracy": 0.7639999985694885, + "covertype_test_precision": 0.7508432865142822, + "covertype_test_recall": 0.7639999985694885, + "covertype_test_f1-score": 0.7561272382736206, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7639999985694885 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6707877516746521, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6966966986656189, + "covertype_val_precision": 0.6753650307655334, + "covertype_val_recall": 0.6966966986656189, + "covertype_val_f1-score": 0.6654004454612732, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6966966986656189 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6798685789108276, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6909999847412109, + "covertype_test_precision": 0.7053424715995789, + "covertype_test_recall": 0.6909999847412109, + "covertype_test_f1-score": 0.6611947417259216, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6909999847412109 + }, + "5": { + "covertype_test_loss": 0.6589702367782593, + "covertype_test_accuracy": 0.6994736790657043, + "covertype_test_precision": 0.7113449573516846, + "covertype_test_recall": 0.6994736790657043, + "covertype_test_f1-score": 0.6723167300224304, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6994736790657043 + }, + "10": { + "covertype_test_loss": 0.6421394944190979, + "covertype_test_accuracy": 0.7066666483879089, + "covertype_test_precision": 0.7178633809089661, + "covertype_test_recall": 0.7066666483879089, + "covertype_test_f1-score": 0.6811391115188599, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7066666483879089 + }, + "20": { + "covertype_test_loss": 0.6288812160491943, + "covertype_test_accuracy": 0.7087500095367432, + "covertype_test_precision": 0.7204325795173645, + "covertype_test_recall": 0.7087500095367432, + "covertype_test_f1-score": 0.683779776096344, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7087500095367432 + }, + "50": { + "covertype_test_loss": 0.6119846105575562, + "covertype_test_accuracy": 0.7129999995231628, + "covertype_test_precision": 0.7369891405105591, + "covertype_test_recall": 0.7129999995231628, + "covertype_test_f1-score": 0.6864071488380432, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7129999995231628 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.7190438508987427, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7197197079658508, + "covertype_val_precision": 0.7142375707626343, + "covertype_val_recall": 0.7197197079658508, + "covertype_val_f1-score": 0.7094519138336182, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7197197079658508 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6747292876243591, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7124999761581421, + "covertype_test_precision": 0.7033625841140747, + "covertype_test_recall": 0.7124999761581421, + "covertype_test_f1-score": 0.7037185430526733, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7124999761581421 + }, + "5": { + "covertype_test_loss": 0.6588720679283142, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.7100765705108643, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7125580906867981, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7200000286102295 + }, + "10": { + "covertype_test_loss": 0.6424850821495056, + "covertype_test_accuracy": 0.727222204208374, + "covertype_test_precision": 0.7156991362571716, + "covertype_test_recall": 0.727222204208374, + "covertype_test_f1-score": 0.7204126119613647, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.727222204208374 + }, + "20": { + "covertype_test_loss": 0.6291698217391968, + "covertype_test_accuracy": 0.7300000190734863, + "covertype_test_precision": 0.7175050377845764, + "covertype_test_recall": 0.7300000190734863, + "covertype_test_f1-score": 0.7229445576667786, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7300000190734863 + }, + "50": { + "covertype_test_loss": 0.5907262563705444, + "covertype_test_accuracy": 0.7419999837875366, + "covertype_test_precision": 0.7289667129516602, + "covertype_test_recall": 0.7419999837875366, + "covertype_test_f1-score": 0.7353562116622925, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7419999837875366 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6662948608398438, + "std": 0.024568700927224518, + "n": 5, + "ci95": 0.030501180849713982 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.715999984741211, + "std": 0.015664453999110244, + "n": 5, + "ci95": 0.019446870461492544 + }, + "covertype_test_precision": { + "mean": 0.7101520538330078, + "std": 0.005347931289790727, + "n": 5, + "ci95": 0.006639269203729051 + }, + "covertype_test_recall": { + "mean": 0.715999984741211, + "std": 0.015664453999110244, + "n": 5, + "ci95": 0.019446870461492544 + }, + "covertype_test_f1-score": { + "mean": 0.7001132011413574, + "std": 0.022116393363713877, + "n": 5, + "ci95": 0.027456726984801824 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.715999984741211, + "std": 0.015664453999110244, + "n": 5, + "ci95": 0.019446870461492544 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6365944147109985, + "std": 0.020934684420403957, + "n": 5, + "ci95": 0.025989676761088917 + }, + "covertype_test_accuracy": { + "mean": 0.7236842155456543, + "std": 0.015416647424799701, + "n": 5, + "ci95": 0.01913922728730996 + }, + "covertype_test_precision": { + "mean": 0.717460036277771, + "std": 0.007172818112301386, + "n": 5, + "ci95": 0.008904802215365798 + }, + "covertype_test_recall": { + "mean": 0.7236842155456543, + "std": 0.015416647424799701, + "n": 5, + "ci95": 0.01913922728730996 + }, + "covertype_test_f1-score": { + "mean": 0.7102937936782837, + "std": 0.021849455024864295, + "n": 5, + "ci95": 0.02712533239568249 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7236842155456543, + "std": 0.015416647424799701, + "n": 5, + "ci95": 0.01913922728730996 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6224864244461059, + "std": 0.018738665609172332, + "n": 5, + "ci95": 0.02326339639693144 + }, + "covertype_test_accuracy": { + "mean": 0.7300000071525574, + "std": 0.014656582087900587, + "n": 5, + "ci95": 0.01819563281859836 + }, + "covertype_test_precision": { + "mean": 0.724751079082489, + "std": 0.0082784672023138, + "n": 5, + "ci95": 0.010277426797784045 + }, + "covertype_test_recall": { + "mean": 0.7300000071525574, + "std": 0.014656582087900587, + "n": 5, + "ci95": 0.01819563281859836 + }, + "covertype_test_f1-score": { + "mean": 0.7183183431625366, + "std": 0.021407590002465685, + "n": 5, + "ci95": 0.026576772461672768 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7300000071525574, + "std": 0.014656582087900587, + "n": 5, + "ci95": 0.01819563281859836 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6054534912109375, + "std": 0.021986536443049067, + "n": 5, + "ci95": 0.027295514170436234 + }, + "covertype_test_accuracy": { + "mean": 0.7337499976158142, + "std": 0.015829895743304533, + "n": 5, + "ci95": 0.01965226058670549 + }, + "covertype_test_precision": { + "mean": 0.7282750487327576, + "std": 0.009574368704917305, + "n": 5, + "ci95": 0.011886243080395322 + }, + "covertype_test_recall": { + "mean": 0.7337499976158142, + "std": 0.015829895743304533, + "n": 5, + "ci95": 0.01965226058670549 + }, + "covertype_test_f1-score": { + "mean": 0.7230183601379394, + "std": 0.02302158562133521, + "n": 5, + "ci95": 0.028580491437601004 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7337499976158142, + "std": 0.015829895743304533, + "n": 5, + "ci95": 0.01965226058670549 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5809811472892761, + "std": 0.02024416588476252, + "n": 5, + "ci95": 0.02513242220790492 + }, + "covertype_test_accuracy": { + "mean": 0.7435999989509583, + "std": 0.018902381190920275, + "n": 5, + "ci95": 0.023466643551984596 + }, + "covertype_test_precision": { + "mean": 0.7415634751319885, + "std": 0.010960806323920848, + "n": 5, + "ci95": 0.01360745677742131 + }, + "covertype_test_recall": { + "mean": 0.7435999989509583, + "std": 0.018902381190920275, + "n": 5, + "ci95": 0.023466643551984596 + }, + "covertype_test_f1-score": { + "mean": 0.7327188134193421, + "std": 0.02696688320208678, + "n": 5, + "ci95": 0.033478440066341826 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7435999989509583, + "std": 0.018902381190920275, + "n": 5, + "ci95": 0.023466643551984596 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..7bbb64051bb3bd2dbf4b1f23e2e8b7a3e88382b3 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpoemkxr1n", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpoemkxr1n/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5949186682701111, + "lr": 0.0, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.756165623664856, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.757240891456604, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5399397611618042, + "lr": 0.0, + "covertype_test_accuracy": 0.7914999723434448, + "covertype_test_precision": 0.7928008437156677, + "covertype_test_recall": 0.7914999723434448, + "covertype_test_f1-score": 0.7909241318702698, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7914999723434448 + }, + "5": { + "covertype_test_loss": 0.517510712146759, + "covertype_test_accuracy": 0.796842098236084, + "covertype_test_precision": 0.797064483165741, + "covertype_test_recall": 0.796842098236084, + "covertype_test_f1-score": 0.7958229780197144, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.796842098236084 + }, + "10": { + "covertype_test_loss": 0.48869845271110535, + "covertype_test_accuracy": 0.8027777671813965, + "covertype_test_precision": 0.8022861480712891, + "covertype_test_recall": 0.8027777671813965, + "covertype_test_f1-score": 0.8015519976615906, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8027777671813965 + }, + "20": { + "covertype_test_loss": 0.4704083502292633, + "covertype_test_accuracy": 0.8125, + "covertype_test_precision": 0.8117697834968567, + "covertype_test_recall": 0.8125, + "covertype_test_f1-score": 0.8116426467895508, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8125 + }, + "50": { + "covertype_test_loss": 0.4610115885734558, + "covertype_test_accuracy": 0.8069999814033508, + "covertype_test_precision": 0.8066678643226624, + "covertype_test_recall": 0.8069999814033508, + "covertype_test_f1-score": 0.8056319355964661, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8069999814033508 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6163792610168457, + "lr": 0.0, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7446030974388123, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7451860308647156, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.560318648815155, + "lr": 0.0, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7742597460746765, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7710884213447571, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7749999761581421 + }, + "5": { + "covertype_test_loss": 0.5338391065597534, + "covertype_test_accuracy": 0.7836841940879822, + "covertype_test_precision": 0.7845298647880554, + "covertype_test_recall": 0.7836841940879822, + "covertype_test_f1-score": 0.7811723351478577, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7836841940879822 + }, + "10": { + "covertype_test_loss": 0.5173627138137817, + "covertype_test_accuracy": 0.7877777814865112, + "covertype_test_precision": 0.7880057096481323, + "covertype_test_recall": 0.7877777814865112, + "covertype_test_f1-score": 0.7854448556900024, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7877777814865112 + }, + "20": { + "covertype_test_loss": 0.4997679591178894, + "covertype_test_accuracy": 0.7918750047683716, + "covertype_test_precision": 0.7945191264152527, + "covertype_test_recall": 0.7918750047683716, + "covertype_test_f1-score": 0.79070645570755, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7918750047683716 + }, + "50": { + "covertype_test_loss": 0.48774489760398865, + "covertype_test_accuracy": 0.7879999876022339, + "covertype_test_precision": 0.7924650311470032, + "covertype_test_recall": 0.7879999876022339, + "covertype_test_f1-score": 0.786456286907196, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7879999876022339 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6185653209686279, + "lr": 0.0, + "covertype_val_accuracy": 0.7647647857666016, + "covertype_val_precision": 0.765403151512146, + "covertype_val_recall": 0.7647647857666016, + "covertype_val_f1-score": 0.7618751525878906, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7647647857666016 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.569378137588501, + "lr": 0.0, + "covertype_test_accuracy": 0.7674999833106995, + "covertype_test_precision": 0.7734401822090149, + "covertype_test_recall": 0.7674999833106995, + "covertype_test_f1-score": 0.7666524648666382, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7674999833106995 + }, + "5": { + "covertype_test_loss": 0.5510799884796143, + "covertype_test_accuracy": 0.7726315855979919, + "covertype_test_precision": 0.7814573645591736, + "covertype_test_recall": 0.7726315855979919, + "covertype_test_f1-score": 0.7724642157554626, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7726315855979919 + }, + "10": { + "covertype_test_loss": 0.5301991105079651, + "covertype_test_accuracy": 0.7761111259460449, + "covertype_test_precision": 0.7839075922966003, + "covertype_test_recall": 0.7761111259460449, + "covertype_test_f1-score": 0.7757476568222046, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7761111259460449 + }, + "20": { + "covertype_test_loss": 0.5078133940696716, + "covertype_test_accuracy": 0.7806249856948853, + "covertype_test_precision": 0.7885783910751343, + "covertype_test_recall": 0.7806249856948853, + "covertype_test_f1-score": 0.7804410457611084, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7806249856948853 + }, + "50": { + "covertype_test_loss": 0.5112425088882446, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7878996729850769, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7781115770339966, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5793860554695129, + "lr": 0.0, + "covertype_val_accuracy": 0.7807807922363281, + "covertype_val_precision": 0.773094654083252, + "covertype_val_recall": 0.7807807922363281, + "covertype_val_f1-score": 0.7760158181190491, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7807807922363281 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5645164251327515, + "lr": 0.0, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7807513475418091, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7801399827003479, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7820000052452087 + }, + "5": { + "covertype_test_loss": 0.5450547933578491, + "covertype_test_accuracy": 0.7878947257995605, + "covertype_test_precision": 0.785442590713501, + "covertype_test_recall": 0.7878947257995605, + "covertype_test_f1-score": 0.7857692241668701, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7878947257995605 + }, + "10": { + "covertype_test_loss": 0.5206820964813232, + "covertype_test_accuracy": 0.7933333516120911, + "covertype_test_precision": 0.7901163101196289, + "covertype_test_recall": 0.7933333516120911, + "covertype_test_f1-score": 0.7907399535179138, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7933333516120911 + }, + "20": { + "covertype_test_loss": 0.49996793270111084, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7973706722259521, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7976195216178894, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.800000011920929 + }, + "50": { + "covertype_test_loss": 0.4815458655357361, + "covertype_test_accuracy": 0.8019999861717224, + "covertype_test_precision": 0.8032782673835754, + "covertype_test_recall": 0.8019999861717224, + "covertype_test_f1-score": 0.7984451055526733, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8019999861717224 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6027729511260986, + "lr": 0.0, + "covertype_val_accuracy": 0.7527527809143066, + "covertype_val_precision": 0.7506657242774963, + "covertype_val_recall": 0.7527527809143066, + "covertype_val_f1-score": 0.7509271502494812, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7527527809143066 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5604425072669983, + "lr": 0.0, + "covertype_test_accuracy": 0.7735000252723694, + "covertype_test_precision": 0.7759599089622498, + "covertype_test_recall": 0.7735000252723694, + "covertype_test_f1-score": 0.7739468216896057, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7735000252723694 + }, + "5": { + "covertype_test_loss": 0.5360482335090637, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7828915119171143, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7802309393882751, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7799999713897705 + }, + "10": { + "covertype_test_loss": 0.5174571871757507, + "covertype_test_accuracy": 0.7866666913032532, + "covertype_test_precision": 0.7877638936042786, + "covertype_test_recall": 0.7866666913032532, + "covertype_test_f1-score": 0.786567211151123, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7866666913032532 + }, + "20": { + "covertype_test_loss": 0.503445029258728, + "covertype_test_accuracy": 0.7931249737739563, + "covertype_test_precision": 0.7929470539093018, + "covertype_test_recall": 0.7931249737739563, + "covertype_test_f1-score": 0.7926926612854004, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7931249737739563 + }, + "50": { + "covertype_test_loss": 0.5019599199295044, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7922515273094177, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7896561622619629, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7910000085830688 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.558919095993042, + "std": 0.011238508856177495, + "n": 5, + "ci95": 0.013952214735274814 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7778999924659729, + "std": 0.009188301717099053, + "n": 5, + "ci95": 0.011406954450099836 + }, + "covertype_test_precision": { + "mean": 0.7794424057006836, + "std": 0.007987108771636454, + "n": 5, + "ci95": 0.009915715520801907 + }, + "covertype_test_recall": { + "mean": 0.7778999924659729, + "std": 0.009188301717099053, + "n": 5, + "ci95": 0.011406954450099836 + }, + "covertype_test_f1-score": { + "mean": 0.7765503644943237, + "std": 0.00940837688695114, + "n": 5, + "ci95": 0.011680170057879566 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7778999924659729, + "std": 0.009188301717099053, + "n": 5, + "ci95": 0.011406954450099836 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5367065668106079, + "std": 0.012781086654319394, + "n": 5, + "ci95": 0.015867270990599376 + }, + "covertype_test_accuracy": { + "mean": 0.7842105150222778, + "std": 0.009016756644693185, + "n": 5, + "ci95": 0.011193987256888138 + }, + "covertype_test_precision": { + "mean": 0.7862771630287171, + "std": 0.006221111809120151, + "n": 5, + "ci95": 0.0077232922057349045 + }, + "covertype_test_recall": { + "mean": 0.7842105150222778, + "std": 0.009016756644693185, + "n": 5, + "ci95": 0.011193987256888138 + }, + "covertype_test_f1-score": { + "mean": 0.783091938495636, + "std": 0.008574175025566016, + "n": 5, + "ci95": 0.010644537693162997 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7842105150222778, + "std": 0.009016756644693185, + "n": 5, + "ci95": 0.011193987256888138 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5148799121379852, + "std": 0.015545245658688181, + "n": 5, + "ci95": 0.0192988774861709 + }, + "covertype_test_accuracy": { + "mean": 0.7893333435058594, + "std": 0.009761025012543901, + "n": 5, + "ci95": 0.012117970342350388 + }, + "covertype_test_precision": { + "mean": 0.7904159307479859, + "std": 0.007003441439445146, + "n": 5, + "ci95": 0.008694527014173276 + }, + "covertype_test_recall": { + "mean": 0.7893333435058594, + "std": 0.009761025012543901, + "n": 5, + "ci95": 0.012117970342350388 + }, + "covertype_test_f1-score": { + "mean": 0.7880103349685669, + "std": 0.009352339433519524, + "n": 5, + "ci95": 0.011610601524055249 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7893333435058594, + "std": 0.009761025012543901, + "n": 5, + "ci95": 0.012117970342350388 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.49628053307533265, + "std": 0.014827894236030025, + "n": 5, + "ci95": 0.018408310844486932 + }, + "covertype_test_accuracy": { + "mean": 0.7956249952316284, + "std": 0.01171771499514673, + "n": 5, + "ci95": 0.014547132356368793 + }, + "covertype_test_precision": { + "mean": 0.7970370054244995, + "std": 0.008828670031166667, + "n": 5, + "ci95": 0.010960484320303259 + }, + "covertype_test_recall": { + "mean": 0.7956249952316284, + "std": 0.01171771499514673, + "n": 5, + "ci95": 0.014547132356368793 + }, + "covertype_test_f1-score": { + "mean": 0.7946204662322998, + "std": 0.011389039021461279, + "n": 5, + "ci95": 0.014139092658053808 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7956249952316284, + "std": 0.01171771499514673, + "n": 5, + "ci95": 0.014547132356368793 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4887009561061859, + "std": 0.01938254476834749, + "n": 5, + "ci95": 0.024062749799357425 + }, + "covertype_test_accuracy": { + "mean": 0.79339998960495, + "std": 0.011193746046436137, + "n": 5, + "ci95": 0.013896643276315438 + }, + "covertype_test_precision": { + "mean": 0.7965124726295472, + "std": 0.008025361586647786, + "n": 5, + "ci95": 0.00996320504953716 + }, + "covertype_test_recall": { + "mean": 0.79339998960495, + "std": 0.011193746046436137, + "n": 5, + "ci95": 0.013896643276315438 + }, + "covertype_test_f1-score": { + "mean": 0.791660213470459, + "std": 0.010675982413145825, + "n": 5, + "ci95": 0.013253857877804876 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.79339998960495, + "std": 0.011193746046436137, + "n": 5, + "ci95": 0.013896643276315438 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..1331bdc9e5b7aa934877548d6f09137a187114fe --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:28b6a7e8c467f6e9dc6628b072b1e4a27fa39e16b2d24c7f0ab8b47b3c8f6fc0 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..bdd0b3aba1dd2fe4ca7af2449962e55c585a54ae --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:bc8e8e4c190ad0820f99aa23f4177f03d2a658c375b496e425cf388baca36ef9 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..3c826db4a5187037b64db00612cf4d18412b8d15 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9f5381ae9bbc0ac3b469a0a6eebc7426112edcc48e39705f5d32c48f9cb4eda7 +size 11498064 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..df6a0e2360dfe8b21c60220f1c3b45af1d4f1c09 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_173102/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.0001 +sw_s_y_weight: 0.0001 +sw_seed: 0 +sw_z_weight: 0.0001 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.00025 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..300f281b229518f4e68f10075be34028fa11f838 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T18:16:47.697225+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.00025, + "sw_z_weight": 0.00025, + "sw_s_y_weight": 0.00025, + "lambda_joint": 0.00025, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..dc9bb4c1210c77deebcee035c47b2507a2bb9d66 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.00025, + "sw_z_weight": 0.00025, + "sw_s_y_weight": 0.00025, + "lambda_joint": 0.00025, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.00025", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.00025", + "--sw-z-end-weight", + "0.00025", + "--sw-s-y-end-weight", + "0.00025", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..5d1e177fa9710d5dc7360ef7892fc4efa1958877 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.00025, + "s_x": 0.00025, + "z": 0.00025, + "s_y": 0.00025 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.00025", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00025", + "--sw_z_weight", + "0.00025", + "--sw_s_y_weight", + "0.00025", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..7304f78bbc06e1a6357d8bf8b4ff64ac20271cda --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp9i8q7mhb", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp9i8q7mhb/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6667917370796204, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7197197079658508, + "covertype_val_precision": 0.717120349407196, + "covertype_val_recall": 0.7197197079658508, + "covertype_val_f1-score": 0.7025036811828613, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7197197079658508 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.721187949180603, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7059999704360962, + "covertype_test_precision": 0.7200642824172974, + "covertype_test_recall": 0.7059999704360962, + "covertype_test_f1-score": 0.6924329996109009, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7059999704360962 + }, + "5": { + "covertype_test_loss": 0.652258038520813, + "covertype_test_accuracy": 0.7131578922271729, + "covertype_test_precision": 0.7332932949066162, + "covertype_test_recall": 0.7131578922271729, + "covertype_test_f1-score": 0.7032293677330017, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7131578922271729 + }, + "10": { + "covertype_test_loss": 0.6383071541786194, + "covertype_test_accuracy": 0.7177777886390686, + "covertype_test_precision": 0.741492509841919, + "covertype_test_recall": 0.7177777886390686, + "covertype_test_f1-score": 0.7100287079811096, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7177777886390686 + }, + "20": { + "covertype_test_loss": 0.619489312171936, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.7273665070533752, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.712643563747406, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7200000286102295 + }, + "50": { + "covertype_test_loss": 0.5791343450546265, + "covertype_test_accuracy": 0.7369999885559082, + "covertype_test_precision": 0.7425664067268372, + "covertype_test_recall": 0.7369999885559082, + "covertype_test_f1-score": 0.7310841083526611, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7369999885559082 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.7063540816307068, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6926926970481873, + "covertype_val_precision": 0.6994103193283081, + "covertype_val_recall": 0.6926926970481873, + "covertype_val_f1-score": 0.6794063448905945, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6926926970481873 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6982792615890503, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6919999718666077, + "covertype_test_precision": 0.7036803960800171, + "covertype_test_recall": 0.6919999718666077, + "covertype_test_f1-score": 0.6816965937614441, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6919999718666077 + }, + "5": { + "covertype_test_loss": 0.6844092011451721, + "covertype_test_accuracy": 0.6978947520256042, + "covertype_test_precision": 0.7087737917900085, + "covertype_test_recall": 0.6978947520256042, + "covertype_test_f1-score": 0.6880276203155518, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6978947520256042 + }, + "10": { + "covertype_test_loss": 0.6758233904838562, + "covertype_test_accuracy": 0.7011111378669739, + "covertype_test_precision": 0.7140424847602844, + "covertype_test_recall": 0.7011111378669739, + "covertype_test_f1-score": 0.6904577612876892, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7011111378669739 + }, + "20": { + "covertype_test_loss": 0.6575495004653931, + "covertype_test_accuracy": 0.7012500166893005, + "covertype_test_precision": 0.7198930978775024, + "covertype_test_recall": 0.7012500166893005, + "covertype_test_f1-score": 0.6918100714683533, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7012500166893005 + }, + "50": { + "covertype_test_loss": 0.6124975681304932, + "covertype_test_accuracy": 0.7229999899864197, + "covertype_test_precision": 0.7359293699264526, + "covertype_test_recall": 0.7229999899864197, + "covertype_test_f1-score": 0.7157963514328003, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7229999899864197 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.7080598473548889, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7097097039222717, + "covertype_val_precision": 0.7274774312973022, + "covertype_val_recall": 0.7097097039222717, + "covertype_val_f1-score": 0.706926703453064, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7097097039222717 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6573427319526672, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7064999938011169, + "covertype_test_precision": 0.7248354554176331, + "covertype_test_recall": 0.7064999938011169, + "covertype_test_f1-score": 0.7028394341468811, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7064999938011169 + }, + "5": { + "covertype_test_loss": 0.6427282094955444, + "covertype_test_accuracy": 0.7157894968986511, + "covertype_test_precision": 0.7340072393417358, + "covertype_test_recall": 0.7157894968986511, + "covertype_test_f1-score": 0.711148738861084, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7157894968986511 + }, + "10": { + "covertype_test_loss": 0.6280778646469116, + "covertype_test_accuracy": 0.7244444489479065, + "covertype_test_precision": 0.7380740642547607, + "covertype_test_recall": 0.7244444489479065, + "covertype_test_f1-score": 0.7190256118774414, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7244444489479065 + }, + "20": { + "covertype_test_loss": 0.6139346957206726, + "covertype_test_accuracy": 0.7256249785423279, + "covertype_test_precision": 0.736312985420227, + "covertype_test_recall": 0.7256249785423279, + "covertype_test_f1-score": 0.7200111150741577, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7256249785423279 + }, + "50": { + "covertype_test_loss": 0.5788053870201111, + "covertype_test_accuracy": 0.7350000143051147, + "covertype_test_precision": 0.7398638129234314, + "covertype_test_recall": 0.7350000143051147, + "covertype_test_f1-score": 0.7290985584259033, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7350000143051147 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.667061984539032, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7247247099876404, + "covertype_val_precision": 0.7267377376556396, + "covertype_val_recall": 0.7247247099876404, + "covertype_val_f1-score": 0.7045748829841614, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7247247099876404 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6630855798721313, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7120000123977661, + "covertype_test_precision": 0.7074928879737854, + "covertype_test_recall": 0.7120000123977661, + "covertype_test_f1-score": 0.6937198042869568, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7120000123977661 + }, + "5": { + "covertype_test_loss": 0.6439525485038757, + "covertype_test_accuracy": 0.722631573677063, + "covertype_test_precision": 0.7171435952186584, + "covertype_test_recall": 0.722631573677063, + "covertype_test_f1-score": 0.7074236869812012, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.722631573677063 + }, + "10": { + "covertype_test_loss": 0.6321367621421814, + "covertype_test_accuracy": 0.7283333539962769, + "covertype_test_precision": 0.7195169925689697, + "covertype_test_recall": 0.7283333539962769, + "covertype_test_f1-score": 0.7149946093559265, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7283333539962769 + }, + "20": { + "covertype_test_loss": 0.616899847984314, + "covertype_test_accuracy": 0.7300000190734863, + "covertype_test_precision": 0.7202295064926147, + "covertype_test_recall": 0.7300000190734863, + "covertype_test_f1-score": 0.7174413800239563, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7300000190734863 + }, + "50": { + "covertype_test_loss": 0.594346821308136, + "covertype_test_accuracy": 0.7350000143051147, + "covertype_test_precision": 0.7360044717788696, + "covertype_test_recall": 0.7350000143051147, + "covertype_test_f1-score": 0.7196865081787109, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7350000143051147 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.7689037322998047, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6946946978569031, + "covertype_val_precision": 0.7133456468582153, + "covertype_val_recall": 0.6946946978569031, + "covertype_val_f1-score": 0.6977723240852356, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6946946978569031 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7255557775497437, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.690500020980835, + "covertype_test_precision": 0.6961163282394409, + "covertype_test_recall": 0.690500020980835, + "covertype_test_f1-score": 0.6883200407028198, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.690500020980835 + }, + "5": { + "covertype_test_loss": 0.6999452114105225, + "covertype_test_accuracy": 0.6994736790657043, + "covertype_test_precision": 0.7040376663208008, + "covertype_test_recall": 0.6994736790657043, + "covertype_test_f1-score": 0.6955568790435791, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6994736790657043 + }, + "10": { + "covertype_test_loss": 0.6794461011886597, + "covertype_test_accuracy": 0.7088888883590698, + "covertype_test_precision": 0.7080286741256714, + "covertype_test_recall": 0.7088888883590698, + "covertype_test_f1-score": 0.7039456963539124, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7088888883590698 + }, + "20": { + "covertype_test_loss": 0.6652867197990417, + "covertype_test_accuracy": 0.7118750214576721, + "covertype_test_precision": 0.7106737494468689, + "covertype_test_recall": 0.7118750214576721, + "covertype_test_f1-score": 0.7070604562759399, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7118750214576721 + }, + "50": { + "covertype_test_loss": 0.6461634635925293, + "covertype_test_accuracy": 0.7120000123977661, + "covertype_test_precision": 0.720231294631958, + "covertype_test_recall": 0.7120000123977661, + "covertype_test_f1-score": 0.7061935663223267, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7120000123977661 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6930902600288391, + "std": 0.031814235397162285, + "n": 5, + "ci95": 0.03949625787373041 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7013999938964843, + "std": 0.009574706250635117, + "n": 5, + "ci95": 0.011886662131570006 + }, + "covertype_test_precision": { + "mean": 0.7104378700256347, + "std": 0.01182583203414617, + "n": 5, + "ci95": 0.014681355869822992 + }, + "covertype_test_recall": { + "mean": 0.7013999938964843, + "std": 0.009574706250635117, + "n": 5, + "ci95": 0.011886662131570006 + }, + "covertype_test_f1-score": { + "mean": 0.6918017745018006, + "std": 0.007748295971986048, + "n": 5, + "ci95": 0.009619237802548107 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7013999938964843, + "std": 0.009574706250635117, + "n": 5, + "ci95": 0.011886662131570006 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6646586418151855, + "std": 0.02597444759596105, + "n": 5, + "ci95": 0.03224636605502958 + }, + "covertype_test_accuracy": { + "mean": 0.7097894787788391, + "std": 0.010725740956078608, + "n": 5, + "ci95": 0.013315631364376539 + }, + "covertype_test_precision": { + "mean": 0.719451117515564, + "std": 0.01378759387164223, + "n": 5, + "ci95": 0.01711681441387773 + }, + "covertype_test_recall": { + "mean": 0.7097894787788391, + "std": 0.010725740956078608, + "n": 5, + "ci95": 0.013315631364376539 + }, + "covertype_test_f1-score": { + "mean": 0.7010772585868835, + "std": 0.009315458810082257, + "n": 5, + "ci95": 0.01156481552305168 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7097894787788391, + "std": 0.010725740956078608, + "n": 5, + "ci95": 0.013315631364376539 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6507582545280457, + "std": 0.024836684310987952, + "n": 5, + "ci95": 0.030833872825455744 + }, + "covertype_test_accuracy": { + "mean": 0.7161111235618591, + "std": 0.011166526467891765, + "n": 5, + "ci95": 0.013862851123840867 + }, + "covertype_test_precision": { + "mean": 0.724230945110321, + "std": 0.014816656358273773, + "n": 5, + "ci95": 0.01839435941324009 + }, + "covertype_test_recall": { + "mean": 0.7161111235618591, + "std": 0.011166526467891765, + "n": 5, + "ci95": 0.013862851123840867 + }, + "covertype_test_f1-score": { + "mean": 0.7076904773712158, + "std": 0.011161236817579148, + "n": 5, + "ci95": 0.013856284208427034 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7161111235618591, + "std": 0.011166526467891765, + "n": 5, + "ci95": 0.013862851123840867 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6346320152282715, + "std": 0.024683153605923984, + "n": 5, + "ci95": 0.030643269837735253 + }, + "covertype_test_accuracy": { + "mean": 0.7177500128746033, + "std": 0.011444493274224723, + "n": 5, + "ci95": 0.01420793716869496 + }, + "covertype_test_precision": { + "mean": 0.7228951692581177, + "std": 0.0095591833463422, + "n": 5, + "ci95": 0.011867390990106178 + }, + "covertype_test_recall": { + "mean": 0.7177500128746033, + "std": 0.011444493274224723, + "n": 5, + "ci95": 0.01420793716869496 + }, + "covertype_test_f1-score": { + "mean": 0.7097933173179627, + "std": 0.011201404148725828, + "n": 5, + "ci95": 0.013906150541823507 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7177500128746033, + "std": 0.011444493274224723, + "n": 5, + "ci95": 0.01420793716869496 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6021895170211792, + "std": 0.028194991847373094, + "n": 5, + "ci95": 0.035003093893336286 + }, + "covertype_test_accuracy": { + "mean": 0.7284000039100647, + "std": 0.01071447481584267, + "n": 5, + "ci95": 0.013301644846252016 + }, + "covertype_test_precision": { + "mean": 0.7349190711975098, + "std": 0.008672683982157352, + "n": 5, + "ci95": 0.010766833109156259 + }, + "covertype_test_recall": { + "mean": 0.7284000039100647, + "std": 0.01071447481584267, + "n": 5, + "ci95": 0.013301644846252016 + }, + "covertype_test_f1-score": { + "mean": 0.7203718185424804, + "std": 0.010165339733070594, + "n": 5, + "ci95": 0.01261991289305811 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7284000039100647, + "std": 0.01071447481584267, + "n": 5, + "ci95": 0.013301644846252016 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..a54f96d755c6378f01aea3343ca19518a0d431f5 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmprvwdejsz", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmprvwdejsz/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5841440558433533, + "lr": 0.0, + "covertype_val_accuracy": 0.7717717885971069, + "covertype_val_precision": 0.766688346862793, + "covertype_val_recall": 0.7717717885971069, + "covertype_val_f1-score": 0.7683665156364441, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7717717885971069 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5500417351722717, + "lr": 0.0, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7859027981758118, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.785902738571167, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5251657366752625, + "covertype_test_accuracy": 0.7952631711959839, + "covertype_test_precision": 0.7954913377761841, + "covertype_test_recall": 0.7952631711959839, + "covertype_test_f1-score": 0.7947986125946045, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7952631711959839 + }, + "10": { + "covertype_test_loss": 0.5029106736183167, + "covertype_test_accuracy": 0.8016666769981384, + "covertype_test_precision": 0.8014124035835266, + "covertype_test_recall": 0.8016666769981384, + "covertype_test_f1-score": 0.8007752895355225, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8016666769981384 + }, + "20": { + "covertype_test_loss": 0.49504706263542175, + "covertype_test_accuracy": 0.8068749904632568, + "covertype_test_precision": 0.8073943257331848, + "covertype_test_recall": 0.8068749904632568, + "covertype_test_f1-score": 0.8067299723625183, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8068749904632568 + }, + "50": { + "covertype_test_loss": 0.4825417101383209, + "covertype_test_accuracy": 0.8040000200271606, + "covertype_test_precision": 0.803162693977356, + "covertype_test_recall": 0.8040000200271606, + "covertype_test_f1-score": 0.8034042119979858, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8040000200271606 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5945369601249695, + "lr": 0.0, + "covertype_val_accuracy": 0.7577577829360962, + "covertype_val_precision": 0.7494921088218689, + "covertype_val_recall": 0.7577577829360962, + "covertype_val_f1-score": 0.7514616250991821, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7577577829360962 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5671306252479553, + "lr": 0.0, + "covertype_test_accuracy": 0.7714999914169312, + "covertype_test_precision": 0.7736730575561523, + "covertype_test_recall": 0.7714999914169312, + "covertype_test_f1-score": 0.7707465291023254, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7714999914169312 + }, + "5": { + "covertype_test_loss": 0.5518200397491455, + "covertype_test_accuracy": 0.777368426322937, + "covertype_test_precision": 0.7810285091400146, + "covertype_test_recall": 0.777368426322937, + "covertype_test_f1-score": 0.7770076990127563, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.777368426322937 + }, + "10": { + "covertype_test_loss": 0.5311380624771118, + "covertype_test_accuracy": 0.7827777862548828, + "covertype_test_precision": 0.78573077917099, + "covertype_test_recall": 0.7827777862548828, + "covertype_test_f1-score": 0.7819574475288391, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7827777862548828 + }, + "20": { + "covertype_test_loss": 0.5022569894790649, + "covertype_test_accuracy": 0.7887499928474426, + "covertype_test_precision": 0.7917521595954895, + "covertype_test_recall": 0.7887499928474426, + "covertype_test_f1-score": 0.7883974313735962, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7887499928474426 + }, + "50": { + "covertype_test_loss": 0.4799448847770691, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7848013043403625, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7812878489494324, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6168842911720276, + "lr": 0.0, + "covertype_val_accuracy": 0.7517517805099487, + "covertype_val_precision": 0.7520211935043335, + "covertype_val_recall": 0.7517517805099487, + "covertype_val_f1-score": 0.7494562864303589, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7517517805099487 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5634134411811829, + "lr": 0.0, + "covertype_test_accuracy": 0.7785000205039978, + "covertype_test_precision": 0.7861316800117493, + "covertype_test_recall": 0.7785000205039978, + "covertype_test_f1-score": 0.7783195972442627, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7785000205039978 + }, + "5": { + "covertype_test_loss": 0.5439336895942688, + "covertype_test_accuracy": 0.785263180732727, + "covertype_test_precision": 0.7941299676895142, + "covertype_test_recall": 0.785263180732727, + "covertype_test_f1-score": 0.7853159308433533, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.785263180732727 + }, + "10": { + "covertype_test_loss": 0.5283581614494324, + "covertype_test_accuracy": 0.7877777814865112, + "covertype_test_precision": 0.7953537702560425, + "covertype_test_recall": 0.7877777814865112, + "covertype_test_f1-score": 0.7873833775520325, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7877777814865112 + }, + "20": { + "covertype_test_loss": 0.5111998915672302, + "covertype_test_accuracy": 0.7931249737739563, + "covertype_test_precision": 0.8009201884269714, + "covertype_test_recall": 0.7931249737739563, + "covertype_test_f1-score": 0.7928062677383423, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7931249737739563 + }, + "50": { + "covertype_test_loss": 0.48441842198371887, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.7972833514213562, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7910956740379333, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7919999957084656 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5878438949584961, + "lr": 0.0, + "covertype_val_accuracy": 0.7627627849578857, + "covertype_val_precision": 0.7531173825263977, + "covertype_val_recall": 0.7627627849578857, + "covertype_val_f1-score": 0.755524218082428, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7627627849578857 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5541951060295105, + "lr": 0.0, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.7813408970832825, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7820202112197876, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7839999794960022 + }, + "5": { + "covertype_test_loss": 0.5318769812583923, + "covertype_test_accuracy": 0.7894737124443054, + "covertype_test_precision": 0.7872248888015747, + "covertype_test_recall": 0.7894737124443054, + "covertype_test_f1-score": 0.7875325083732605, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7894737124443054 + }, + "10": { + "covertype_test_loss": 0.5134936571121216, + "covertype_test_accuracy": 0.7933333516120911, + "covertype_test_precision": 0.7899667024612427, + "covertype_test_recall": 0.7933333516120911, + "covertype_test_f1-score": 0.7905556559562683, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7933333516120911 + }, + "20": { + "covertype_test_loss": 0.49167633056640625, + "covertype_test_accuracy": 0.7981250286102295, + "covertype_test_precision": 0.7961173057556152, + "covertype_test_recall": 0.7981250286102295, + "covertype_test_f1-score": 0.7965488433837891, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7981250286102295 + }, + "50": { + "covertype_test_loss": 0.4581613838672638, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.8020517826080322, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.8007689714431763, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.611624538898468, + "lr": 0.0, + "covertype_val_accuracy": 0.7447447180747986, + "covertype_val_precision": 0.743514358997345, + "covertype_val_recall": 0.7447447180747986, + "covertype_val_f1-score": 0.7436538934707642, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7447447180747986 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5718389749526978, + "lr": 0.0, + "covertype_test_accuracy": 0.7710000276565552, + "covertype_test_precision": 0.7743117809295654, + "covertype_test_recall": 0.7710000276565552, + "covertype_test_f1-score": 0.7720459699630737, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7710000276565552 + }, + "5": { + "covertype_test_loss": 0.542171061038971, + "covertype_test_accuracy": 0.777368426322937, + "covertype_test_precision": 0.7796390056610107, + "covertype_test_recall": 0.777368426322937, + "covertype_test_f1-score": 0.7781773209571838, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.777368426322937 + }, + "10": { + "covertype_test_loss": 0.5266056060791016, + "covertype_test_accuracy": 0.7844444513320923, + "covertype_test_precision": 0.7842822074890137, + "covertype_test_recall": 0.7844444513320923, + "covertype_test_f1-score": 0.7842680811882019, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7844444513320923 + }, + "20": { + "covertype_test_loss": 0.5122599601745605, + "covertype_test_accuracy": 0.7881249785423279, + "covertype_test_precision": 0.7888432741165161, + "covertype_test_recall": 0.7881249785423279, + "covertype_test_f1-score": 0.7883033752441406, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7881249785423279 + }, + "50": { + "covertype_test_loss": 0.5118663907051086, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7802018523216248, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7790601253509521, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5613239765167236, + "std": 0.009038224222135603, + "n": 5, + "ci95": 0.011220638501653418 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7782999992370605, + "std": 0.00705866687193914, + "n": 5, + "ci95": 0.008763087452472089 + }, + "covertype_test_precision": { + "mean": 0.7802720427513122, + "std": 0.006046786990772795, + "n": 5, + "ci95": 0.007506874055391661 + }, + "covertype_test_recall": { + "mean": 0.7782999992370605, + "std": 0.00705866687193914, + "n": 5, + "ci95": 0.008763087452472089 + }, + "covertype_test_f1-score": { + "mean": 0.7778070092201232, + "std": 0.00645357660744997, + "n": 5, + "ci95": 0.008011889102903088 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7782999992370605, + "std": 0.00705866687193914, + "n": 5, + "ci95": 0.008763087452472089 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.538993501663208, + "std": 0.010498504261140176, + "n": 5, + "ci95": 0.013033524974277249 + }, + "covertype_test_accuracy": { + "mean": 0.7849473834037781, + "std": 0.00777631084088684, + "n": 5, + "ci95": 0.009654017280118174 + }, + "covertype_test_precision": { + "mean": 0.7875027418136596, + "std": 0.007272706262962774, + "n": 5, + "ci95": 0.009028809852444013 + }, + "covertype_test_recall": { + "mean": 0.7849473834037781, + "std": 0.00777631084088684, + "n": 5, + "ci95": 0.009654017280118174 + }, + "covertype_test_f1-score": { + "mean": 0.7845664143562316, + "std": 0.007280316984464465, + "n": 5, + "ci95": 0.009038258296364898 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7849473834037781, + "std": 0.00777631084088684, + "n": 5, + "ci95": 0.009654017280118174 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5205012321472168, + "std": 0.011944357829728792, + "n": 5, + "ci95": 0.014828501489655737 + }, + "covertype_test_accuracy": { + "mean": 0.7900000095367432, + "std": 0.007667876704988329, + "n": 5, + "ci95": 0.009519400101980845 + }, + "covertype_test_precision": { + "mean": 0.7913491725921631, + "std": 0.007083872255027391, + "n": 5, + "ci95": 0.008794379051903348 + }, + "covertype_test_recall": { + "mean": 0.7900000095367432, + "std": 0.007667876704988329, + "n": 5, + "ci95": 0.009519400101980845 + }, + "covertype_test_f1-score": { + "mean": 0.7889879703521728, + "std": 0.007343004402615104, + "n": 5, + "ci95": 0.009116082528247487 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7900000095367432, + "std": 0.007667876704988329, + "n": 5, + "ci95": 0.009519400101980845 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5024880468845367, + "std": 0.009269592372200739, + "n": 5, + "ci95": 0.011507873948448273 + }, + "covertype_test_accuracy": { + "mean": 0.7949999928474426, + "std": 0.007756053041266543, + "n": 5, + "ci95": 0.009628867932105586 + }, + "covertype_test_precision": { + "mean": 0.7970054507255554, + "std": 0.007386827657679619, + "n": 5, + "ci95": 0.009170487563015311 + }, + "covertype_test_recall": { + "mean": 0.7949999928474426, + "std": 0.007756053041266543, + "n": 5, + "ci95": 0.009628867932105586 + }, + "covertype_test_f1-score": { + "mean": 0.7945571780204773, + "std": 0.0076200700086712925, + "n": 5, + "ci95": 0.009460049764553053 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7949999928474426, + "std": 0.007756053041266543, + "n": 5, + "ci95": 0.009628867932105586 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4833865582942963, + "std": 0.019111736621128642, + "n": 5, + "ci95": 0.023726550978818844 + }, + "covertype_test_accuracy": { + "mean": 0.7921999931335449, + "std": 0.01127830315987807, + "n": 5, + "ci95": 0.014001617968174881 + }, + "covertype_test_precision": { + "mean": 0.7935001969337463, + "std": 0.01040819900743531, + "n": 5, + "ci95": 0.012921414167804804 + }, + "covertype_test_recall": { + "mean": 0.7921999931335449, + "std": 0.01127830315987807, + "n": 5, + "ci95": 0.014001617968174881 + }, + "covertype_test_f1-score": { + "mean": 0.791123366355896, + "std": 0.011024028531409082, + "n": 5, + "ci95": 0.013685944931517398 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7921999931335449, + "std": 0.01127830315987807, + "n": 5, + "ci95": 0.014001617968174881 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..f8422bc5d2eb99a32853fdbeb134f947710e279e --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:0d5016a32846763d811a668a5fbce3a6cac1dd4ecd1aee4723f9c21c63ecce14 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..af678f1380f5d4884936db6eb5b6ef02f40efdda --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:28bbd14c5a7215daf1223080a227456bcded1367f90a0135364980e6f9710a2e +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..b175f3b8e5e200269baf29ec609c372a50157d02 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:3c18011a44639f238cad3fe98c99b7dfecb45c5ab05f2c222e64b2db07552748 +size 11498832 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..f3af0bf9a4420bf18236f3d00293781cad758e89 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_174952/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00025 +sw_s_y_weight: 0.00025 +sw_seed: 0 +sw_z_weight: 0.00025 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.00025 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..9b080865c92d167a523944c645a0fb6efc93d7f7 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T18:10:58.072436+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0005, + "sw_z_weight": 0.0005, + "sw_s_y_weight": 0.0005, + "lambda_joint": 0.00025, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..d43605cf1742c2d216135280a5cb86ffdd5fa20a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0005, + "sw_z_weight": 0.0005, + "sw_s_y_weight": 0.0005, + "lambda_joint": 0.00025, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.00025", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.0005", + "--sw-z-end-weight", + "0.0005", + "--sw-s-y-end-weight", + "0.0005", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..dce0d20751050a69da1e22c20eae45a3d3dd775e --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.00025, + "s_x": 0.0005, + "z": 0.0005, + "s_y": 0.0005 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.00025", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.0005", + "--sw_z_weight", + "0.0005", + "--sw_s_y_weight", + "0.0005", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..5e17336043ae097c4f6a6faab96da4e9130d3433 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpd_jp7_tx", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpd_jp7_tx/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6537458300590515, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7247247099876404, + "covertype_val_precision": 0.7341061234474182, + "covertype_val_recall": 0.7247247099876404, + "covertype_val_f1-score": 0.7022397518157959, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7247247099876404 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6579450964927673, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7085000276565552, + "covertype_test_precision": 0.7206209897994995, + "covertype_test_recall": 0.7085000276565552, + "covertype_test_f1-score": 0.6861482262611389, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7085000276565552 + }, + "5": { + "covertype_test_loss": 0.6414942145347595, + "covertype_test_accuracy": 0.7152631282806396, + "covertype_test_precision": 0.7232149839401245, + "covertype_test_recall": 0.7152631282806396, + "covertype_test_f1-score": 0.6965156197547913, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7152631282806396 + }, + "10": { + "covertype_test_loss": 0.6281434297561646, + "covertype_test_accuracy": 0.7205555438995361, + "covertype_test_precision": 0.721261203289032, + "covertype_test_recall": 0.7205555438995361, + "covertype_test_f1-score": 0.7043822407722473, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7205555438995361 + }, + "20": { + "covertype_test_loss": 0.6057775616645813, + "covertype_test_accuracy": 0.7243750095367432, + "covertype_test_precision": 0.7198899388313293, + "covertype_test_recall": 0.7243750095367432, + "covertype_test_f1-score": 0.7084677815437317, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7243750095367432 + }, + "50": { + "covertype_test_loss": 0.5705082416534424, + "covertype_test_accuracy": 0.7379999756813049, + "covertype_test_precision": 0.736444890499115, + "covertype_test_recall": 0.7379999756813049, + "covertype_test_f1-score": 0.7222769260406494, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7379999756813049 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.7334937453269958, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6586586833000183, + "covertype_val_precision": 0.6827823519706726, + "covertype_val_recall": 0.6586586833000183, + "covertype_val_f1-score": 0.6483839154243469, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6586586833000183 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.722683846950531, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6779999732971191, + "covertype_test_precision": 0.7055359482765198, + "covertype_test_recall": 0.6779999732971191, + "covertype_test_f1-score": 0.6690543293952942, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6779999732971191 + }, + "5": { + "covertype_test_loss": 0.7153640389442444, + "covertype_test_accuracy": 0.6784210801124573, + "covertype_test_precision": 0.7094936370849609, + "covertype_test_recall": 0.6784210801124573, + "covertype_test_f1-score": 0.6698508858680725, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6784210801124573 + }, + "10": { + "covertype_test_loss": 0.7027592062950134, + "covertype_test_accuracy": 0.6822222471237183, + "covertype_test_precision": 0.7105621695518494, + "covertype_test_recall": 0.6822222471237183, + "covertype_test_f1-score": 0.6717867851257324, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6822222471237183 + }, + "20": { + "covertype_test_loss": 0.6798064708709717, + "covertype_test_accuracy": 0.684374988079071, + "covertype_test_precision": 0.7184566259384155, + "covertype_test_recall": 0.684374988079071, + "covertype_test_f1-score": 0.673737645149231, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.684374988079071 + }, + "50": { + "covertype_test_loss": 0.640841543674469, + "covertype_test_accuracy": 0.6909999847412109, + "covertype_test_precision": 0.7260990142822266, + "covertype_test_recall": 0.6909999847412109, + "covertype_test_f1-score": 0.6806377172470093, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6909999847412109 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6500997543334961, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.7255308628082275, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.7238112688064575, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.634520947933197, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7250000238418579, + "covertype_test_precision": 0.7198008894920349, + "covertype_test_recall": 0.7250000238418579, + "covertype_test_f1-score": 0.7109416723251343, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7250000238418579 + }, + "5": { + "covertype_test_loss": 0.62066251039505, + "covertype_test_accuracy": 0.7321052551269531, + "covertype_test_precision": 0.7248382568359375, + "covertype_test_recall": 0.7321052551269531, + "covertype_test_f1-score": 0.7218847870826721, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7321052551269531 + }, + "10": { + "covertype_test_loss": 0.6103951930999756, + "covertype_test_accuracy": 0.7355555295944214, + "covertype_test_precision": 0.7247314453125, + "covertype_test_recall": 0.7355555295944214, + "covertype_test_f1-score": 0.7269169688224792, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7355555295944214 + }, + "20": { + "covertype_test_loss": 0.5848147869110107, + "covertype_test_accuracy": 0.7418749928474426, + "covertype_test_precision": 0.730928361415863, + "covertype_test_recall": 0.7418749928474426, + "covertype_test_f1-score": 0.7346041202545166, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7418749928474426 + }, + "50": { + "covertype_test_loss": 0.5487015247344971, + "covertype_test_accuracy": 0.7570000290870667, + "covertype_test_precision": 0.7445728182792664, + "covertype_test_recall": 0.7570000290870667, + "covertype_test_f1-score": 0.7499714493751526, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7570000290870667 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6465120315551758, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7337337136268616, + "covertype_val_precision": 0.7320675849914551, + "covertype_val_recall": 0.7337337136268616, + "covertype_val_f1-score": 0.7208666205406189, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7337337136268616 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6420738101005554, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7089999914169312, + "covertype_test_precision": 0.6982110738754272, + "covertype_test_recall": 0.7089999914169312, + "covertype_test_f1-score": 0.694617748260498, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7089999914169312 + }, + "5": { + "covertype_test_loss": 0.6257160902023315, + "covertype_test_accuracy": 0.7163158059120178, + "covertype_test_precision": 0.7070218920707703, + "covertype_test_recall": 0.7163158059120178, + "covertype_test_f1-score": 0.7054055333137512, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7163158059120178 + }, + "10": { + "covertype_test_loss": 0.609582245349884, + "covertype_test_accuracy": 0.7211111187934875, + "covertype_test_precision": 0.7105332016944885, + "covertype_test_recall": 0.7211111187934875, + "covertype_test_f1-score": 0.7124305963516235, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7211111187934875 + }, + "20": { + "covertype_test_loss": 0.5884055495262146, + "covertype_test_accuracy": 0.7262499928474426, + "covertype_test_precision": 0.7179639935493469, + "covertype_test_recall": 0.7262499928474426, + "covertype_test_f1-score": 0.7186609506607056, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7262499928474426 + }, + "50": { + "covertype_test_loss": 0.557668924331665, + "covertype_test_accuracy": 0.7319999933242798, + "covertype_test_precision": 0.7265231013298035, + "covertype_test_recall": 0.7319999933242798, + "covertype_test_f1-score": 0.7185913324356079, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7319999933242798 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6526604890823364, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7227227091789246, + "covertype_val_precision": 0.7077023386955261, + "covertype_val_recall": 0.7227227091789246, + "covertype_val_f1-score": 0.7083434462547302, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7227227091789246 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6400868892669678, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7250000238418579, + "covertype_test_precision": 0.7170985341072083, + "covertype_test_recall": 0.7250000238418579, + "covertype_test_f1-score": 0.7158362865447998, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7250000238418579 + }, + "5": { + "covertype_test_loss": 0.6255975365638733, + "covertype_test_accuracy": 0.7310526371002197, + "covertype_test_precision": 0.7226976156234741, + "covertype_test_recall": 0.7310526371002197, + "covertype_test_f1-score": 0.7237153649330139, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7310526371002197 + }, + "10": { + "covertype_test_loss": 0.6166620254516602, + "covertype_test_accuracy": 0.7322221994400024, + "covertype_test_precision": 0.7227724194526672, + "covertype_test_recall": 0.7322221994400024, + "covertype_test_f1-score": 0.7241926193237305, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7322221994400024 + }, + "20": { + "covertype_test_loss": 0.5920854806900024, + "covertype_test_accuracy": 0.7368749976158142, + "covertype_test_precision": 0.7289420366287231, + "covertype_test_recall": 0.7368749976158142, + "covertype_test_f1-score": 0.7300192713737488, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7368749976158142 + }, + "50": { + "covertype_test_loss": 0.5566011071205139, + "covertype_test_accuracy": 0.7540000081062317, + "covertype_test_precision": 0.7436440587043762, + "covertype_test_recall": 0.7540000081062317, + "covertype_test_f1-score": 0.748345673084259, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7540000081062317 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6594621181488037, + "std": 0.036397469246199694, + "n": 5, + "ci95": 0.04518618201420929 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7091000080108643, + "std": 0.019191164280681797, + "n": 5, + "ci95": 0.02382515763350834 + }, + "covertype_test_precision": { + "mean": 0.7122534871101379, + "std": 0.00990918212833561, + "n": 5, + "ci95": 0.012301902207381456 + }, + "covertype_test_recall": { + "mean": 0.7091000080108643, + "std": 0.019191164280681797, + "n": 5, + "ci95": 0.02382515763350834 + }, + "covertype_test_f1-score": { + "mean": 0.695319652557373, + "std": 0.018970073158504294, + "n": 5, + "ci95": 0.023550680756534766 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7091000080108643, + "std": 0.019191164280681797, + "n": 5, + "ci95": 0.02382515763350834 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6457668781280518, + "std": 0.039689690609479765, + "n": 5, + "ci95": 0.0492733594150879 + }, + "covertype_test_accuracy": { + "mean": 0.7146315813064575, + "std": 0.021733707754259233, + "n": 5, + "ci95": 0.026981636217197378 + }, + "covertype_test_precision": { + "mean": 0.7174532771110534, + "std": 0.008476555030753783, + "n": 5, + "ci95": 0.010523345892052475 + }, + "covertype_test_recall": { + "mean": 0.7146315813064575, + "std": 0.021733707754259233, + "n": 5, + "ci95": 0.026981636217197378 + }, + "covertype_test_f1-score": { + "mean": 0.7034744381904602, + "std": 0.02197347045247144, + "n": 5, + "ci95": 0.027279293201213264 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7146315813064575, + "std": 0.021733707754259233, + "n": 5, + "ci95": 0.026981636217197378 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6335084199905395, + "std": 0.03941744101026939, + "n": 5, + "ci95": 0.04893537108243754 + }, + "covertype_test_accuracy": { + "mean": 0.7183333277702332, + "std": 0.02124952649405218, + "n": 5, + "ci95": 0.026380542157508888 + }, + "covertype_test_precision": { + "mean": 0.7179720878601075, + "std": 0.006888292487848979, + "n": 5, + "ci95": 0.008551573627761306 + }, + "covertype_test_recall": { + "mean": 0.7183333277702332, + "std": 0.02124952649405218, + "n": 5, + "ci95": 0.026380542157508888 + }, + "covertype_test_f1-score": { + "mean": 0.7079418420791626, + "std": 0.022159371694984973, + "n": 5, + "ci95": 0.02751008307630221 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7183333277702332, + "std": 0.02124952649405218, + "n": 5, + "ci95": 0.026380542157508888 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6101779699325561, + "std": 0.03972454923023861, + "n": 5, + "ci95": 0.049316635170655376 + }, + "covertype_test_accuracy": { + "mean": 0.7227499961853028, + "std": 0.02265399001787274, + "n": 5, + "ci95": 0.02812413438339695 + }, + "covertype_test_precision": { + "mean": 0.7232361912727356, + "std": 0.006196044539833902, + "n": 5, + "ci95": 0.007692172069746716 + }, + "covertype_test_recall": { + "mean": 0.7227499961853028, + "std": 0.02265399001787274, + "n": 5, + "ci95": 0.02812413438339695 + }, + "covertype_test_f1-score": { + "mean": 0.7130979537963867, + "std": 0.02424079985417032, + "n": 5, + "ci95": 0.030094103163365537 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7227499961853028, + "std": 0.02265399001787274, + "n": 5, + "ci95": 0.02812413438339695 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5748642683029175, + "std": 0.037701750275403456, + "n": 5, + "ci95": 0.04680540118531786 + }, + "covertype_test_accuracy": { + "mean": 0.7343999981880188, + "std": 0.02644429434638596, + "n": 5, + "ci95": 0.03282966432337558 + }, + "covertype_test_precision": { + "mean": 0.7354567766189575, + "std": 0.008923122248709338, + "n": 5, + "ci95": 0.01107774343699238 + }, + "covertype_test_recall": { + "mean": 0.7343999981880188, + "std": 0.02644429434638596, + "n": 5, + "ci95": 0.03282966432337558 + }, + "covertype_test_f1-score": { + "mean": 0.7239646196365357, + "std": 0.028194556016911093, + "n": 5, + "ci95": 0.03500255282509744 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7343999981880188, + "std": 0.02644429434638596, + "n": 5, + "ci95": 0.03282966432337558 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..a5e25fb9cc527039dcb4896c2bf30518f66b9124 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpj_od1xon", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpj_od1xon/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5631813406944275, + "lr": 0.0, + "covertype_val_accuracy": 0.7777777910232544, + "covertype_val_precision": 0.772466242313385, + "covertype_val_recall": 0.7777777910232544, + "covertype_val_f1-score": 0.7741422057151794, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7777777910232544 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5513307452201843, + "lr": 0.0, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7883666157722473, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.786841094493866, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7870000004768372 + }, + "5": { + "covertype_test_loss": 0.5216950178146362, + "covertype_test_accuracy": 0.7963157892227173, + "covertype_test_precision": 0.7975228428840637, + "covertype_test_recall": 0.7963157892227173, + "covertype_test_f1-score": 0.7960843443870544, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7963157892227173 + }, + "10": { + "covertype_test_loss": 0.5032179951667786, + "covertype_test_accuracy": 0.8038889169692993, + "covertype_test_precision": 0.8036696314811707, + "covertype_test_recall": 0.8038889169692993, + "covertype_test_f1-score": 0.803063690662384, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8038889169692993 + }, + "20": { + "covertype_test_loss": 0.46755096316337585, + "covertype_test_accuracy": 0.809374988079071, + "covertype_test_precision": 0.8097872138023376, + "covertype_test_recall": 0.809374988079071, + "covertype_test_f1-score": 0.8091713190078735, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.809374988079071 + }, + "50": { + "covertype_test_loss": 0.43575233221054077, + "covertype_test_accuracy": 0.8059999942779541, + "covertype_test_precision": 0.805378258228302, + "covertype_test_recall": 0.8059999942779541, + "covertype_test_f1-score": 0.8050493597984314, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8059999942779541 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6002473831176758, + "lr": 0.0, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.7507399320602417, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.7528184652328491, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5508516430854797, + "lr": 0.0, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.785431981086731, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7840397953987122, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7860000133514404 + }, + "5": { + "covertype_test_loss": 0.5249905586242676, + "covertype_test_accuracy": 0.7926315665245056, + "covertype_test_precision": 0.7923912405967712, + "covertype_test_recall": 0.7926315665245056, + "covertype_test_f1-score": 0.7914031147956848, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7926315665245056 + }, + "10": { + "covertype_test_loss": 0.5137664675712585, + "covertype_test_accuracy": 0.7955555319786072, + "covertype_test_precision": 0.7942557334899902, + "covertype_test_recall": 0.7955555319786072, + "covertype_test_f1-score": 0.7941645383834839, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7955555319786072 + }, + "20": { + "covertype_test_loss": 0.48606741428375244, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7995985150337219, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7994158864021301, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.800000011920929 + }, + "50": { + "covertype_test_loss": 0.466129869222641, + "covertype_test_accuracy": 0.7929999828338623, + "covertype_test_precision": 0.7921680212020874, + "covertype_test_recall": 0.7929999828338623, + "covertype_test_f1-score": 0.7912641763687134, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7929999828338623 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6134418249130249, + "lr": 0.0, + "covertype_val_accuracy": 0.7527527809143066, + "covertype_val_precision": 0.7536899447441101, + "covertype_val_recall": 0.7527527809143066, + "covertype_val_f1-score": 0.7507076263427734, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7527527809143066 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.580100417137146, + "lr": 0.0, + "covertype_test_accuracy": 0.7574999928474426, + "covertype_test_precision": 0.7654444575309753, + "covertype_test_recall": 0.7574999928474426, + "covertype_test_f1-score": 0.7572214603424072, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7574999928474426 + }, + "5": { + "covertype_test_loss": 0.5589197874069214, + "covertype_test_accuracy": 0.7631579041481018, + "covertype_test_precision": 0.7743940949440002, + "covertype_test_recall": 0.7631579041481018, + "covertype_test_f1-score": 0.7635282874107361, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7631579041481018 + }, + "10": { + "covertype_test_loss": 0.5452868938446045, + "covertype_test_accuracy": 0.7666666507720947, + "covertype_test_precision": 0.7764663100242615, + "covertype_test_recall": 0.7666666507720947, + "covertype_test_f1-score": 0.7667526602745056, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7666666507720947 + }, + "20": { + "covertype_test_loss": 0.5151075720787048, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7840739488601685, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.775508463382721, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7749999761581421 + }, + "50": { + "covertype_test_loss": 0.5037583708763123, + "covertype_test_accuracy": 0.7630000114440918, + "covertype_test_precision": 0.7715790867805481, + "covertype_test_recall": 0.7630000114440918, + "covertype_test_f1-score": 0.7635282278060913, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7630000114440918 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5789550542831421, + "lr": 0.0, + "covertype_val_accuracy": 0.7837837934494019, + "covertype_val_precision": 0.7765544056892395, + "covertype_val_recall": 0.7837837934494019, + "covertype_val_f1-score": 0.7795249223709106, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7837837934494019 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5590774416923523, + "lr": 0.0, + "covertype_test_accuracy": 0.7854999899864197, + "covertype_test_precision": 0.7855456471443176, + "covertype_test_recall": 0.7854999899864197, + "covertype_test_f1-score": 0.7850385904312134, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7854999899864197 + }, + "5": { + "covertype_test_loss": 0.5335738658905029, + "covertype_test_accuracy": 0.7926315665245056, + "covertype_test_precision": 0.7923694252967834, + "covertype_test_recall": 0.7926315665245056, + "covertype_test_f1-score": 0.7920130491256714, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7926315665245056 + }, + "10": { + "covertype_test_loss": 0.5203921794891357, + "covertype_test_accuracy": 0.7972221970558167, + "covertype_test_precision": 0.7958521246910095, + "covertype_test_recall": 0.7972221970558167, + "covertype_test_f1-score": 0.7959774136543274, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7972221970558167 + }, + "20": { + "covertype_test_loss": 0.4895896017551422, + "covertype_test_accuracy": 0.8037499785423279, + "covertype_test_precision": 0.8035128116607666, + "covertype_test_recall": 0.8037499785423279, + "covertype_test_f1-score": 0.8029773831367493, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8037499785423279 + }, + "50": { + "covertype_test_loss": 0.4593696594238281, + "covertype_test_accuracy": 0.8080000281333923, + "covertype_test_precision": 0.8071846961975098, + "covertype_test_recall": 0.8080000281333923, + "covertype_test_f1-score": 0.80619877576828, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8080000281333923 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5962724685668945, + "lr": 0.0, + "covertype_val_accuracy": 0.7427427172660828, + "covertype_val_precision": 0.7381989359855652, + "covertype_val_recall": 0.7427427172660828, + "covertype_val_f1-score": 0.7397803664207458, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7427427172660828 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5847632884979248, + "lr": 0.0, + "covertype_test_accuracy": 0.762499988079071, + "covertype_test_precision": 0.7673531770706177, + "covertype_test_recall": 0.762499988079071, + "covertype_test_f1-score": 0.7637467980384827, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.762499988079071 + }, + "5": { + "covertype_test_loss": 0.5545755624771118, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.773759663105011, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7715144157409668, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7699999809265137 + }, + "10": { + "covertype_test_loss": 0.544052243232727, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7768115401268005, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7757223844528198, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7749999761581421 + }, + "20": { + "covertype_test_loss": 0.512390673160553, + "covertype_test_accuracy": 0.7793750166893005, + "covertype_test_precision": 0.7819533348083496, + "covertype_test_recall": 0.7793750166893005, + "covertype_test_f1-score": 0.7804369330406189, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7793750166893005 + }, + "50": { + "covertype_test_loss": 0.5077093839645386, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7594757080078125, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7594348788261414, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7599999904632568 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5652247071266174, + "std": 0.016128072808211696, + "n": 5, + "ci95": 0.020022436959030183 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7756999969482422, + "std": 0.014450784274703369, + "n": 5, + "ci95": 0.01794014204855734 + }, + "covertype_test_precision": { + "mean": 0.7784283757209778, + "std": 0.0110647730733505, + "n": 5, + "ci95": 0.013736527851879168 + }, + "covertype_test_recall": { + "mean": 0.7756999969482422, + "std": 0.014450784274703369, + "n": 5, + "ci95": 0.01794014204855734 + }, + "covertype_test_f1-score": { + "mean": 0.7753775477409363, + "std": 0.013826614126104367, + "n": 5, + "ci95": 0.017165256691785584 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7756999969482422, + "std": 0.014450784274703369, + "n": 5, + "ci95": 0.01794014204855734 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5387509584426879, + "std": 0.01706059609010705, + "n": 5, + "ci95": 0.021180131920270132 + }, + "covertype_test_accuracy": { + "mean": 0.7829473614692688, + "std": 0.015211342804697785, + "n": 5, + "ci95": 0.018884348799205957 + }, + "covertype_test_precision": { + "mean": 0.7860874533653259, + "std": 0.011165550614771707, + "n": 5, + "ci95": 0.013861639636404645 + }, + "covertype_test_recall": { + "mean": 0.7829473614692688, + "std": 0.015211342804697785, + "n": 5, + "ci95": 0.018884348799205957 + }, + "covertype_test_f1-score": { + "mean": 0.7829086422920227, + "std": 0.014440152064871769, + "n": 5, + "ci95": 0.01792694253280491 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7829473614692688, + "std": 0.015211342804697785, + "n": 5, + "ci95": 0.018884348799205957 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5253431558609009, + "std": 0.018680452681742628, + "n": 5, + "ci95": 0.02319112708840821 + }, + "covertype_test_accuracy": { + "mean": 0.787666654586792, + "std": 0.015954227322401603, + "n": 5, + "ci95": 0.019806613883227086 + }, + "covertype_test_precision": { + "mean": 0.7894110679626465, + "std": 0.012192000340707535, + "n": 5, + "ci95": 0.01513594098496377 + }, + "covertype_test_recall": { + "mean": 0.787666654586792, + "std": 0.015954227322401603, + "n": 5, + "ci95": 0.019806613883227086 + }, + "covertype_test_f1-score": { + "mean": 0.7871361374855042, + "std": 0.015223447664547508, + "n": 5, + "ci95": 0.018899376558326412 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.787666654586792, + "std": 0.015954227322401603, + "n": 5, + "ci95": 0.019806613883227086 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.4941412448883057, + "std": 0.019783678791952482, + "n": 5, + "ci95": 0.024560743626348563 + }, + "covertype_test_accuracy": { + "mean": 0.7934999942779541, + "std": 0.015338623612287822, + "n": 5, + "ci95": 0.019042363459504885 + }, + "covertype_test_precision": { + "mean": 0.7957851648330688, + "std": 0.01223506887987243, + "n": 5, + "ci95": 0.01518940906640172 + }, + "covertype_test_recall": { + "mean": 0.7934999942779541, + "std": 0.015338623612287822, + "n": 5, + "ci95": 0.019042363459504885 + }, + "covertype_test_f1-score": { + "mean": 0.7935019969940186, + "std": 0.014703297510987354, + "n": 5, + "ci95": 0.0182536283785696 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7934999942779541, + "std": 0.015338623612287822, + "n": 5, + "ci95": 0.019042363459504885 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.47454392313957217, + "std": 0.03065645877189822, + "n": 5, + "ci95": 0.03805891878383087 + }, + "covertype_test_accuracy": { + "mean": 0.7860000014305115, + "std": 0.023119260034359077, + "n": 5, + "ci95": 0.028701750797013426 + }, + "covertype_test_precision": { + "mean": 0.7871571540832519, + "std": 0.021018792225058924, + "n": 5, + "ci95": 0.026094093651841607 + }, + "covertype_test_recall": { + "mean": 0.7860000014305115, + "std": 0.023119260034359077, + "n": 5, + "ci95": 0.028701750797013426 + }, + "covertype_test_f1-score": { + "mean": 0.7850950837135315, + "std": 0.02238957371857162, + "n": 5, + "ci95": 0.027795870817957122 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7860000014305115, + "std": 0.023119260034359077, + "n": 5, + "ci95": 0.028701750797013426 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..35b5eecece00ca55bcdbad5581b4608b8bf5703f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:971291069292ab4fa0e8b972c341a7d3928df265f2c7d3110de1eacb6152e63d +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..8bec10e51623911cc29b2efc5655f9f81ee7e271 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:037ffb4ebb4c87139084c75f23f305bc34b6954eded4fac5c4d53213cdb57cbe +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..9b182d32fa35bfe88337da77905df440e51cd848 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9bf7bb7605abc7fc1a5421744bb4d4ce4bb1ccfc0df9b735c5b6fc9eb9cccdf1 +size 11493776 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..4f9e30f6ff84f7fab6bb5a943fcd590fc355c730 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_175121/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.0005 +sw_s_y_weight: 0.0005 +sw_seed: 0 +sw_z_weight: 0.0005 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.00025 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..d5b068c532f6426db09535ba6937fefc7d07f8ed --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T18:10:19.698594+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.001, + "sw_z_weight": 0.001, + "sw_s_y_weight": 0.001, + "lambda_joint": 0.00025, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..c3199125ebe3de434f0f83344ec0453beaf0b575 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.001, + "sw_z_weight": 0.001, + "sw_s_y_weight": 0.001, + "lambda_joint": 0.00025, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.00025", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.001", + "--sw-z-end-weight", + "0.001", + "--sw-s-y-end-weight", + "0.001", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..723c8ecc5b11e308f21e01e05d2cfb2bd56de666 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.00025, + "s_x": 0.001, + "z": 0.001, + "s_y": 0.001 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.00025", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.001", + "--sw_z_weight", + "0.001", + "--sw_s_y_weight", + "0.001", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..895d6f94407ae8d39a531f7779819f96458468dc --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpbdcm2azo", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpbdcm2azo/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6631432175636292, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7297297120094299, + "covertype_val_precision": 0.7306451797485352, + "covertype_val_recall": 0.7297297120094299, + "covertype_val_f1-score": 0.7160302996635437, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7297297120094299 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6571056246757507, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7145000100135803, + "covertype_test_precision": 0.70523601770401, + "covertype_test_recall": 0.7145000100135803, + "covertype_test_f1-score": 0.7033705115318298, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7145000100135803 + }, + "5": { + "covertype_test_loss": 0.6334736943244934, + "covertype_test_accuracy": 0.722631573677063, + "covertype_test_precision": 0.7161008715629578, + "covertype_test_recall": 0.722631573677063, + "covertype_test_f1-score": 0.7145071625709534, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.722631573677063 + }, + "10": { + "covertype_test_loss": 0.6154062151908875, + "covertype_test_accuracy": 0.7311111092567444, + "covertype_test_precision": 0.7229026556015015, + "covertype_test_recall": 0.7311111092567444, + "covertype_test_f1-score": 0.7247019410133362, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7311111092567444 + }, + "20": { + "covertype_test_loss": 0.594216525554657, + "covertype_test_accuracy": 0.7368749976158142, + "covertype_test_precision": 0.727350115776062, + "covertype_test_recall": 0.7368749976158142, + "covertype_test_f1-score": 0.7302201390266418, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7368749976158142 + }, + "50": { + "covertype_test_loss": 0.5504674315452576, + "covertype_test_accuracy": 0.7540000081062317, + "covertype_test_precision": 0.7424609661102295, + "covertype_test_recall": 0.7540000081062317, + "covertype_test_f1-score": 0.7474002838134766, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7540000081062317 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.7668264508247375, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6826826930046082, + "covertype_val_precision": 0.7041557431221008, + "covertype_val_recall": 0.6826826930046082, + "covertype_val_f1-score": 0.6686321496963501, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6826826930046082 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7368258833885193, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6894999742507935, + "covertype_test_precision": 0.7035890817642212, + "covertype_test_recall": 0.6894999742507935, + "covertype_test_f1-score": 0.6749176979064941, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6894999742507935 + }, + "5": { + "covertype_test_loss": 0.7295355200767517, + "covertype_test_accuracy": 0.695263147354126, + "covertype_test_precision": 0.7122882008552551, + "covertype_test_recall": 0.695263147354126, + "covertype_test_f1-score": 0.6846153736114502, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.695263147354126 + }, + "10": { + "covertype_test_loss": 0.7217497229576111, + "covertype_test_accuracy": 0.698888897895813, + "covertype_test_precision": 0.7133937478065491, + "covertype_test_recall": 0.698888897895813, + "covertype_test_f1-score": 0.6896733641624451, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.698888897895813 + }, + "20": { + "covertype_test_loss": 0.7037006616592407, + "covertype_test_accuracy": 0.7037500143051147, + "covertype_test_precision": 0.7225217819213867, + "covertype_test_recall": 0.7037500143051147, + "covertype_test_f1-score": 0.6957288384437561, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7037500143051147 + }, + "50": { + "covertype_test_loss": 0.6595202684402466, + "covertype_test_accuracy": 0.7250000238418579, + "covertype_test_precision": 0.7362845540046692, + "covertype_test_recall": 0.7250000238418579, + "covertype_test_f1-score": 0.7179985642433167, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7250000238418579 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6673644185066223, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7367367148399353, + "covertype_val_precision": 0.7028870582580566, + "covertype_val_recall": 0.7367367148399353, + "covertype_val_f1-score": 0.7127593159675598, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7367367148399353 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6722589135169983, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.715499997138977, + "covertype_test_precision": 0.6991073489189148, + "covertype_test_recall": 0.715499997138977, + "covertype_test_f1-score": 0.6978734731674194, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.715499997138977 + }, + "5": { + "covertype_test_loss": 0.6515994071960449, + "covertype_test_accuracy": 0.7231578826904297, + "covertype_test_precision": 0.7086423635482788, + "covertype_test_recall": 0.7231578826904297, + "covertype_test_f1-score": 0.7079132199287415, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7231578826904297 + }, + "10": { + "covertype_test_loss": 0.6346202492713928, + "covertype_test_accuracy": 0.7283333539962769, + "covertype_test_precision": 0.7148125171661377, + "covertype_test_recall": 0.7283333539962769, + "covertype_test_f1-score": 0.7135276198387146, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7283333539962769 + }, + "20": { + "covertype_test_loss": 0.599546492099762, + "covertype_test_accuracy": 0.7331249713897705, + "covertype_test_precision": 0.7245374917984009, + "covertype_test_recall": 0.7331249713897705, + "covertype_test_f1-score": 0.7198641896247864, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7331249713897705 + }, + "50": { + "covertype_test_loss": 0.5758032202720642, + "covertype_test_accuracy": 0.7390000224113464, + "covertype_test_precision": 0.7356722950935364, + "covertype_test_recall": 0.7390000224113464, + "covertype_test_f1-score": 0.7244872450828552, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7390000224113464 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6519255042076111, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7327327132225037, + "covertype_val_precision": 0.732570469379425, + "covertype_val_recall": 0.7327327132225037, + "covertype_val_f1-score": 0.7178463339805603, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7327327132225037 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6373639106750488, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7260000109672546, + "covertype_test_precision": 0.7323179841041565, + "covertype_test_recall": 0.7260000109672546, + "covertype_test_f1-score": 0.7141498923301697, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7260000109672546 + }, + "5": { + "covertype_test_loss": 0.6179177761077881, + "covertype_test_accuracy": 0.7326315641403198, + "covertype_test_precision": 0.7373548746109009, + "covertype_test_recall": 0.7326315641403198, + "covertype_test_f1-score": 0.7234973907470703, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7326315641403198 + }, + "10": { + "covertype_test_loss": 0.601941704750061, + "covertype_test_accuracy": 0.7394444346427917, + "covertype_test_precision": 0.7414440512657166, + "covertype_test_recall": 0.7394444346427917, + "covertype_test_f1-score": 0.7322056889533997, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7394444346427917 + }, + "20": { + "covertype_test_loss": 0.5741333961486816, + "covertype_test_accuracy": 0.7456250190734863, + "covertype_test_precision": 0.7500450611114502, + "covertype_test_recall": 0.7456250190734863, + "covertype_test_f1-score": 0.7387228608131409, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7456250190734863 + }, + "50": { + "covertype_test_loss": 0.5562949776649475, + "covertype_test_accuracy": 0.7419999837875366, + "covertype_test_precision": 0.7550601959228516, + "covertype_test_recall": 0.7419999837875366, + "covertype_test_f1-score": 0.7323243021965027, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7419999837875366 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6276740431785583, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7377377152442932, + "covertype_val_precision": 0.7365838885307312, + "covertype_val_recall": 0.7377377152442932, + "covertype_val_f1-score": 0.7218291163444519, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7377377152442932 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6336089372634888, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7195000052452087, + "covertype_test_precision": 0.6966724991798401, + "covertype_test_recall": 0.7195000052452087, + "covertype_test_f1-score": 0.7019757628440857, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7195000052452087 + }, + "5": { + "covertype_test_loss": 0.6190298199653625, + "covertype_test_accuracy": 0.7247368693351746, + "covertype_test_precision": 0.7074483633041382, + "covertype_test_recall": 0.7247368693351746, + "covertype_test_f1-score": 0.7112197875976562, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7247368693351746 + }, + "10": { + "covertype_test_loss": 0.6071849465370178, + "covertype_test_accuracy": 0.7311111092567444, + "covertype_test_precision": 0.7143962383270264, + "covertype_test_recall": 0.7311111092567444, + "covertype_test_f1-score": 0.7205628752708435, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7311111092567444 + }, + "20": { + "covertype_test_loss": 0.5860680341720581, + "covertype_test_accuracy": 0.7381250262260437, + "covertype_test_precision": 0.7224087119102478, + "covertype_test_recall": 0.7381250262260437, + "covertype_test_f1-score": 0.7288557887077332, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7381250262260437 + }, + "50": { + "covertype_test_loss": 0.5514333248138428, + "covertype_test_accuracy": 0.7490000128746033, + "covertype_test_precision": 0.7389718294143677, + "covertype_test_recall": 0.7490000128746033, + "covertype_test_f1-score": 0.740178644657135, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7490000128746033 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6674326539039612, + "std": 0.04181367521388943, + "n": 5, + "ci95": 0.05191021183691539 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7129999995231628, + "std": 0.013892458199375535, + "n": 5, + "ci95": 0.017246999800331477 + }, + "covertype_test_precision": { + "mean": 0.7073845863342285, + "std": 0.014352334277791173, + "n": 5, + "ci95": 0.01781791982893867 + }, + "covertype_test_recall": { + "mean": 0.7129999995231628, + "std": 0.013892458199375535, + "n": 5, + "ci95": 0.017246999800331477 + }, + "covertype_test_f1-score": { + "mean": 0.6984574675559998, + "std": 0.014467466975366394, + "n": 5, + "ci95": 0.01796085303655348 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7129999995231628, + "std": 0.013892458199375535, + "n": 5, + "ci95": 0.017246999800331477 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6503112435340881, + "std": 0.04633981175808423, + "n": 5, + "ci95": 0.05752925167520042 + }, + "covertype_test_accuracy": { + "mean": 0.7196842074394226, + "std": 0.01423292837885937, + "n": 5, + "ci95": 0.017669681591653365 + }, + "covertype_test_precision": { + "mean": 0.7163669347763062, + "std": 0.012210757514317383, + "n": 5, + "ci95": 0.01515922735839467 + }, + "covertype_test_recall": { + "mean": 0.7196842074394226, + "std": 0.01423292837885937, + "n": 5, + "ci95": 0.017669681591653365 + }, + "covertype_test_f1-score": { + "mean": 0.7083505868911744, + "std": 0.014483723995728181, + "n": 5, + "ci95": 0.017981035557379517 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7196842074394226, + "std": 0.01423292837885937, + "n": 5, + "ci95": 0.017669681591653365 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6361805677413941, + "std": 0.04941946587632387, + "n": 5, + "ci95": 0.061352534293733454 + }, + "covertype_test_accuracy": { + "mean": 0.725777781009674, + "std": 0.015598150453742443, + "n": 5, + "ci95": 0.01936455693444726 + }, + "covertype_test_precision": { + "mean": 0.7213898420333862, + "std": 0.011838170582076346, + "n": 5, + "ci95": 0.014696673744502486 + }, + "covertype_test_recall": { + "mean": 0.725777781009674, + "std": 0.015598150453742443, + "n": 5, + "ci95": 0.01936455693444726 + }, + "covertype_test_f1-score": { + "mean": 0.7161342978477478, + "std": 0.016265624805220348, + "n": 5, + "ci95": 0.020193202940895803 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.725777781009674, + "std": 0.015598150453742443, + "n": 5, + "ci95": 0.01936455693444726 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6115330219268799, + "std": 0.05240612885780238, + "n": 5, + "ci95": 0.06506037167614376 + }, + "covertype_test_accuracy": { + "mean": 0.7315000057220459, + "std": 0.01616322967243763, + "n": 5, + "ci95": 0.020066082973405973 + }, + "covertype_test_precision": { + "mean": 0.7293726325035095, + "std": 0.011728691400037287, + "n": 5, + "ci95": 0.014560759178219826 + }, + "covertype_test_recall": { + "mean": 0.7315000057220459, + "std": 0.01616322967243763, + "n": 5, + "ci95": 0.020066082973405973 + }, + "covertype_test_f1-score": { + "mean": 0.7226783633232117, + "std": 0.01648227327828164, + "n": 5, + "ci95": 0.02046216442474595 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7315000057220459, + "std": 0.01616322967243763, + "n": 5, + "ci95": 0.020066082973405973 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5787038445472718, + "std": 0.04632181336243298, + "n": 5, + "ci95": 0.05750690729800322 + }, + "covertype_test_accuracy": { + "mean": 0.7418000102043152, + "std": 0.0110769969995531, + "n": 5, + "ci95": 0.013751703427702388 + }, + "covertype_test_precision": { + "mean": 0.7416899681091309, + "std": 0.007940034600613917, + "n": 5, + "ci95": 0.00985727458784571 + }, + "covertype_test_recall": { + "mean": 0.7418000102043152, + "std": 0.0110769969995531, + "n": 5, + "ci95": 0.013751703427702388 + }, + "covertype_test_f1-score": { + "mean": 0.7324778079986572, + "std": 0.011784569669208097, + "n": 5, + "ci95": 0.014630130090365175 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7418000102043152, + "std": 0.0110769969995531, + "n": 5, + "ci95": 0.013751703427702388 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..778dc69f2e77d9aeb38fd498b77736f7cb52b07e --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp59rsimcd", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp59rsimcd/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.592705249786377, + "lr": 0.0, + "covertype_val_accuracy": 0.7557557821273804, + "covertype_val_precision": 0.7536821961402893, + "covertype_val_recall": 0.7557557821273804, + "covertype_val_f1-score": 0.7542890310287476, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7557557821273804 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5490896701812744, + "lr": 0.0, + "covertype_test_accuracy": 0.7774999737739563, + "covertype_test_precision": 0.7788228392601013, + "covertype_test_recall": 0.7774999737739563, + "covertype_test_f1-score": 0.7775408029556274, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7774999737739563 + }, + "5": { + "covertype_test_loss": 0.5264694690704346, + "covertype_test_accuracy": 0.785263180732727, + "covertype_test_precision": 0.7866700887680054, + "covertype_test_recall": 0.785263180732727, + "covertype_test_f1-score": 0.7849562168121338, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.785263180732727 + }, + "10": { + "covertype_test_loss": 0.5087429285049438, + "covertype_test_accuracy": 0.7894444465637207, + "covertype_test_precision": 0.7895514965057373, + "covertype_test_recall": 0.7894444465637207, + "covertype_test_f1-score": 0.7889028191566467, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7894444465637207 + }, + "20": { + "covertype_test_loss": 0.4798019528388977, + "covertype_test_accuracy": 0.7962499856948853, + "covertype_test_precision": 0.7961918711662292, + "covertype_test_recall": 0.7962499856948853, + "covertype_test_f1-score": 0.7959370613098145, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7962499856948853 + }, + "50": { + "covertype_test_loss": 0.46383294463157654, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7866917252540588, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7852335572242737, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7860000133514404 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6091488599777222, + "lr": 0.0, + "covertype_val_accuracy": 0.7527527809143066, + "covertype_val_precision": 0.7421368956565857, + "covertype_val_recall": 0.7527527809143066, + "covertype_val_f1-score": 0.7440714240074158, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7527527809143066 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.581447184085846, + "lr": 0.0, + "covertype_test_accuracy": 0.7710000276565552, + "covertype_test_precision": 0.7700437307357788, + "covertype_test_recall": 0.7710000276565552, + "covertype_test_f1-score": 0.7680851221084595, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7710000276565552 + }, + "5": { + "covertype_test_loss": 0.5579738020896912, + "covertype_test_accuracy": 0.7789473533630371, + "covertype_test_precision": 0.780124843120575, + "covertype_test_recall": 0.7789473533630371, + "covertype_test_f1-score": 0.7773058414459229, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7789473533630371 + }, + "10": { + "covertype_test_loss": 0.5401355028152466, + "covertype_test_accuracy": 0.7827777862548828, + "covertype_test_precision": 0.7839195728302002, + "covertype_test_recall": 0.7827777862548828, + "covertype_test_f1-score": 0.7815790772438049, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7827777862548828 + }, + "20": { + "covertype_test_loss": 0.5094139575958252, + "covertype_test_accuracy": 0.7881249785423279, + "covertype_test_precision": 0.7901244163513184, + "covertype_test_recall": 0.7881249785423279, + "covertype_test_f1-score": 0.7877607941627502, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7881249785423279 + }, + "50": { + "covertype_test_loss": 0.470725417137146, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.781183660030365, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.7771203517913818, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.777999997138977 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6214591860771179, + "lr": 0.0, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7570321559906006, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7519481182098389, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5680848956108093, + "lr": 0.0, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.7783253788948059, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7724308371543884, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7730000019073486 + }, + "5": { + "covertype_test_loss": 0.5504763126373291, + "covertype_test_accuracy": 0.7794736623764038, + "covertype_test_precision": 0.787655770778656, + "covertype_test_recall": 0.7794736623764038, + "covertype_test_f1-score": 0.7799573540687561, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7794736623764038 + }, + "10": { + "covertype_test_loss": 0.5346495509147644, + "covertype_test_accuracy": 0.7822222113609314, + "covertype_test_precision": 0.7912567257881165, + "covertype_test_recall": 0.7822222113609314, + "covertype_test_f1-score": 0.7833263874053955, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7822222113609314 + }, + "20": { + "covertype_test_loss": 0.4933331310749054, + "covertype_test_accuracy": 0.793749988079071, + "covertype_test_precision": 0.8012011647224426, + "covertype_test_recall": 0.793749988079071, + "covertype_test_f1-score": 0.7947774529457092, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.793749988079071 + }, + "50": { + "covertype_test_loss": 0.4740450978279114, + "covertype_test_accuracy": 0.7879999876022339, + "covertype_test_precision": 0.7928606271743774, + "covertype_test_recall": 0.7879999876022339, + "covertype_test_f1-score": 0.7878909707069397, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7879999876022339 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5844992995262146, + "lr": 0.0, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7657771706581116, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7677046656608582, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.566203773021698, + "lr": 0.0, + "covertype_test_accuracy": 0.7754999995231628, + "covertype_test_precision": 0.777533233165741, + "covertype_test_recall": 0.7754999995231628, + "covertype_test_f1-score": 0.7757786512374878, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7754999995231628 + }, + "5": { + "covertype_test_loss": 0.5510609745979309, + "covertype_test_accuracy": 0.7821052670478821, + "covertype_test_precision": 0.7842284440994263, + "covertype_test_recall": 0.7821052670478821, + "covertype_test_f1-score": 0.7823377251625061, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7821052670478821 + }, + "10": { + "covertype_test_loss": 0.5332213044166565, + "covertype_test_accuracy": 0.7872222065925598, + "covertype_test_precision": 0.7884255647659302, + "covertype_test_recall": 0.7872222065925598, + "covertype_test_f1-score": 0.7871406078338623, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7872222065925598 + }, + "20": { + "covertype_test_loss": 0.5005453824996948, + "covertype_test_accuracy": 0.7931249737739563, + "covertype_test_precision": 0.7946237921714783, + "covertype_test_recall": 0.7931249737739563, + "covertype_test_f1-score": 0.793201208114624, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7931249737739563 + }, + "50": { + "covertype_test_loss": 0.4575027823448181, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7952149510383606, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7948004007339478, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7950000166893005 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5589924454689026, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7877877950668335, + "covertype_val_precision": 0.7805582880973816, + "covertype_val_recall": 0.7877877950668335, + "covertype_val_f1-score": 0.7821605205535889, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7877877950668335 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5508764982223511, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7835000157356262, + "covertype_test_precision": 0.7818750739097595, + "covertype_test_recall": 0.7835000157356262, + "covertype_test_f1-score": 0.7798894643783569, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7835000157356262 + }, + "5": { + "covertype_test_loss": 0.5317761898040771, + "covertype_test_accuracy": 0.7884210348129272, + "covertype_test_precision": 0.7858809232711792, + "covertype_test_recall": 0.7884210348129272, + "covertype_test_f1-score": 0.7858825325965881, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7884210348129272 + }, + "10": { + "covertype_test_loss": 0.5138514637947083, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7870987057685852, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7877232432365417, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7900000214576721 + }, + "20": { + "covertype_test_loss": 0.4848473072052002, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7941634058952332, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7933323383331299, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7950000166893005 + }, + "50": { + "covertype_test_loss": 0.46804046630859375, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7865617871284485, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7833350300788879, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7860000133514404 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5631404042243957, + "std": 0.013386531757065735, + "n": 5, + "ci95": 0.016618909859424418 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7761000037193299, + "std": 0.004814038484104613, + "n": 5, + "ci95": 0.005976460003160016 + }, + "covertype_test_precision": { + "mean": 0.7773200511932373, + "std": 0.004387697963126937, + "n": 5, + "ci95": 0.005447173193392561 + }, + "covertype_test_recall": { + "mean": 0.7761000037193299, + "std": 0.004814038484104613, + "n": 5, + "ci95": 0.005976460003160016 + }, + "covertype_test_f1-score": { + "mean": 0.7747449755668641, + "std": 0.0046113931189742715, + "n": 5, + "ci95": 0.005724882886872691 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7761000037193299, + "std": 0.004814038484104613, + "n": 5, + "ci95": 0.005976460003160016 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5435513496398926, + "std": 0.013627194751132625, + "n": 5, + "ci95": 0.016917684529180518 + }, + "covertype_test_accuracy": { + "mean": 0.7828420996665955, + "std": 0.004001390125656085, + "n": 5, + "ci95": 0.004967585556697296 + }, + "covertype_test_precision": { + "mean": 0.7849120140075684, + "std": 0.0029555915720833495, + "n": 5, + "ci95": 0.003669263316975411 + }, + "covertype_test_recall": { + "mean": 0.7828420996665955, + "std": 0.004001390125656085, + "n": 5, + "ci95": 0.004967585556697296 + }, + "covertype_test_f1-score": { + "mean": 0.7820879340171814, + "std": 0.003538933471529815, + "n": 5, + "ci95": 0.004393461833817478 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7828420996665955, + "std": 0.004001390125656085, + "n": 5, + "ci95": 0.004967585556697296 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5261201500892639, + "std": 0.013893304832202288, + "n": 5, + "ci95": 0.01724805086530388 + }, + "covertype_test_accuracy": { + "mean": 0.7863333344459533, + "std": 0.003655713401767983, + "n": 5, + "ci95": 0.0045384400230331886 + }, + "covertype_test_precision": { + "mean": 0.7880504131317139, + "std": 0.00276785202804788, + "n": 5, + "ci95": 0.003436191254995796 + }, + "covertype_test_recall": { + "mean": 0.7863333344459533, + "std": 0.003655713401767983, + "n": 5, + "ci95": 0.0045384400230331886 + }, + "covertype_test_f1-score": { + "mean": 0.7857344269752502, + "std": 0.0031239810220313304, + "n": 5, + "ci95": 0.00387831291553827 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7863333344459533, + "std": 0.003655713401767983, + "n": 5, + "ci95": 0.0045384400230331886 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.49358834624290465, + "std": 0.011888922044309537, + "n": 5, + "ci95": 0.014759679905574953 + }, + "covertype_test_accuracy": { + "mean": 0.7932499885559082, + "std": 0.003106200941652973, + "n": 5, + "ci95": 0.003856239569098459 + }, + "covertype_test_precision": { + "mean": 0.7952609300613404, + "std": 0.004004600986642231, + "n": 5, + "ci95": 0.004971571728042368 + }, + "covertype_test_recall": { + "mean": 0.7932499885559082, + "std": 0.003106200941652973, + "n": 5, + "ci95": 0.003856239569098459 + }, + "covertype_test_f1-score": { + "mean": 0.7930017709732056, + "std": 0.003137907890148265, + "n": 5, + "ci95": 0.0038956026340448775 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7932499885559082, + "std": 0.003106200941652973, + "n": 5, + "ci95": 0.003856239569098459 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.46682934165000917, + "std": 0.00641631646516036, + "n": 5, + "ci95": 0.007965631942549848 + }, + "covertype_test_accuracy": { + "mean": 0.7866000056266784, + "std": 0.0060663057710867215, + "n": 5, + "ci95": 0.007531105936844588 + }, + "covertype_test_precision": { + "mean": 0.788502550125122, + "std": 0.005582583665502553, + "n": 5, + "ci95": 0.006930581901522956 + }, + "covertype_test_recall": { + "mean": 0.7866000056266784, + "std": 0.0060663057710867215, + "n": 5, + "ci95": 0.007531105936844588 + }, + "covertype_test_f1-score": { + "mean": 0.7856760621070862, + "std": 0.006462116449313565, + "n": 5, + "ci95": 0.008022491017179348 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7866000056266784, + "std": 0.0060663057710867215, + "n": 5, + "ci95": 0.007531105936844588 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..e78ff601f74d7e0dc8ad743725fbc69d6316fbac --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b56b16420698fccabbcc73e6ffc532891e18d1b672483e811de15af0cffc75dc +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..2fd91527c10b9716aa25e8474ea88573fa3d4d6e --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8bd1c2d01a8bb23f14e40d7c473ec3934f6997407f8f189f2ed525675bf4d081 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..ccb553cca697bf0baf2b907d9b026db1d4ef6213 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:fcfa7316d3976daa888495e58c54d2eaab6fe37cd84aabad3e04bbb76535285f +size 11493776 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..84f183b1c1de9d52bd0785e3cd854974261d5328 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_175033/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.001 +sw_s_y_weight: 0.001 +sw_seed: 0 +sw_z_weight: 0.001 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.00025 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..3011128e28caa949225c963364ca404b899e8354 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T18:19:16.043429+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.002, + "sw_z_weight": 0.002, + "sw_s_y_weight": 0.002, + "lambda_joint": 0.00025, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..ae928ff9c8fd748b46cafc29bfda4ef414712881 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.002, + "sw_z_weight": 0.002, + "sw_s_y_weight": 0.002, + "lambda_joint": 0.00025, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.00025", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.002", + "--sw-z-end-weight", + "0.002", + "--sw-s-y-end-weight", + "0.002", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..b2ea5d9b9f28373290634a5d93fd1f38819382c8 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.00025, + "s_x": 0.002, + "z": 0.002, + "s_y": 0.002 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.00025", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.002", + "--sw_z_weight", + "0.002", + "--sw_s_y_weight", + "0.002", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..f6e9150634e5f6d907167be8ae5b8203e4a4bbcc --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpnnhjexuw", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpnnhjexuw/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6252145171165466, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7467467188835144, + "covertype_val_precision": 0.7404423952102661, + "covertype_val_recall": 0.7467467188835144, + "covertype_val_f1-score": 0.7421523928642273, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7467467188835144 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.591322124004364, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7580000162124634, + "covertype_test_precision": 0.7560559511184692, + "covertype_test_recall": 0.7580000162124634, + "covertype_test_f1-score": 0.7551613450050354, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7580000162124634 + }, + "5": { + "covertype_test_loss": 0.5672958493232727, + "covertype_test_accuracy": 0.7636842131614685, + "covertype_test_precision": 0.7614045143127441, + "covertype_test_recall": 0.7636842131614685, + "covertype_test_f1-score": 0.7607290148735046, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7636842131614685 + }, + "10": { + "covertype_test_loss": 0.5585278868675232, + "covertype_test_accuracy": 0.7661111354827881, + "covertype_test_precision": 0.762799084186554, + "covertype_test_recall": 0.7661111354827881, + "covertype_test_f1-score": 0.7625120282173157, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7661111354827881 + }, + "20": { + "covertype_test_loss": 0.5486075282096863, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.7617751955986023, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.7618368864059448, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7649999856948853 + }, + "50": { + "covertype_test_loss": 0.5002661943435669, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.7702237963676453, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7703307271003723, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7730000019073486 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6050589680671692, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7541649341583252, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7494168281555176, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5962151885032654, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.762047290802002, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7606289982795715, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7620000243186951 + }, + "5": { + "covertype_test_loss": 0.5660671591758728, + "covertype_test_accuracy": 0.7684210538864136, + "covertype_test_precision": 0.7689557671546936, + "covertype_test_recall": 0.7684210538864136, + "covertype_test_f1-score": 0.7671043872833252, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7684210538864136 + }, + "10": { + "covertype_test_loss": 0.5541208386421204, + "covertype_test_accuracy": 0.769444465637207, + "covertype_test_precision": 0.7697170376777649, + "covertype_test_recall": 0.769444465637207, + "covertype_test_f1-score": 0.7679758667945862, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.769444465637207 + }, + "20": { + "covertype_test_loss": 0.5406799912452698, + "covertype_test_accuracy": 0.7706249952316284, + "covertype_test_precision": 0.770451009273529, + "covertype_test_recall": 0.7706249952316284, + "covertype_test_f1-score": 0.7692651748657227, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7706249952316284 + }, + "50": { + "covertype_test_loss": 0.4952048063278198, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.772397518157959, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7714669704437256, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7730000019073486 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6135721802711487, + "lr": 0.00015772644837852567, + "covertype_val_accuracy": 0.7467467188835144, + "covertype_val_precision": 0.740115761756897, + "covertype_val_recall": 0.7467467188835144, + "covertype_val_f1-score": 0.7403895258903503, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7467467188835144 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6040641665458679, + "lr": 0.00015772644837852567, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7538033723831177, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7488094568252563, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7519999742507935 + }, + "5": { + "covertype_test_loss": 0.58380526304245, + "covertype_test_accuracy": 0.7563157677650452, + "covertype_test_precision": 0.7590517401695251, + "covertype_test_recall": 0.7563157677650452, + "covertype_test_f1-score": 0.7532634139060974, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7563157677650452 + }, + "10": { + "covertype_test_loss": 0.5667720437049866, + "covertype_test_accuracy": 0.7594444155693054, + "covertype_test_precision": 0.7618803381919861, + "covertype_test_recall": 0.7594444155693054, + "covertype_test_f1-score": 0.7560681700706482, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7594444155693054 + }, + "20": { + "covertype_test_loss": 0.5560305118560791, + "covertype_test_accuracy": 0.7618749737739563, + "covertype_test_precision": 0.7656054496765137, + "covertype_test_recall": 0.7618749737739563, + "covertype_test_f1-score": 0.7582603096961975, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7618749737739563 + }, + "50": { + "covertype_test_loss": 0.5278991460800171, + "covertype_test_accuracy": 0.7639999985694885, + "covertype_test_precision": 0.7702782154083252, + "covertype_test_recall": 0.7639999985694885, + "covertype_test_f1-score": 0.7601713538169861, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7639999985694885 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.626248300075531, + "lr": 0.0, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7445946335792542, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7449560761451721, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6155233383178711, + "lr": 0.0, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7603406310081482, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7587175369262695, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7599999904632568 + }, + "5": { + "covertype_test_loss": 0.5947262644767761, + "covertype_test_accuracy": 0.7636842131614685, + "covertype_test_precision": 0.7632285952568054, + "covertype_test_recall": 0.7636842131614685, + "covertype_test_f1-score": 0.7623919248580933, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7636842131614685 + }, + "10": { + "covertype_test_loss": 0.582119345664978, + "covertype_test_accuracy": 0.7705555558204651, + "covertype_test_precision": 0.7684209942817688, + "covertype_test_recall": 0.7705555558204651, + "covertype_test_f1-score": 0.7685799598693848, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7705555558204651 + }, + "20": { + "covertype_test_loss": 0.5666030645370483, + "covertype_test_accuracy": 0.7737500071525574, + "covertype_test_precision": 0.7728288173675537, + "covertype_test_recall": 0.7737500071525574, + "covertype_test_f1-score": 0.7722194790840149, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7737500071525574 + }, + "50": { + "covertype_test_loss": 0.5250183343887329, + "covertype_test_accuracy": 0.777999997138977, + "covertype_test_precision": 0.777126669883728, + "covertype_test_recall": 0.777999997138977, + "covertype_test_f1-score": 0.7761498689651489, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.777999997138977 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6185566782951355, + "lr": 0.0, + "covertype_val_accuracy": 0.7447447180747986, + "covertype_val_precision": 0.7439773678779602, + "covertype_val_recall": 0.7447447180747986, + "covertype_val_f1-score": 0.7423319816589355, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7447447180747986 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6012520790100098, + "lr": 0.0, + "covertype_test_accuracy": 0.7605000138282776, + "covertype_test_precision": 0.7610189318656921, + "covertype_test_recall": 0.7605000138282776, + "covertype_test_f1-score": 0.7596513032913208, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7605000138282776 + }, + "5": { + "covertype_test_loss": 0.5806313157081604, + "covertype_test_accuracy": 0.7657894492149353, + "covertype_test_precision": 0.7671788930892944, + "covertype_test_recall": 0.7657894492149353, + "covertype_test_f1-score": 0.7650287747383118, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7657894492149353 + }, + "10": { + "covertype_test_loss": 0.569575309753418, + "covertype_test_accuracy": 0.7672222256660461, + "covertype_test_precision": 0.7679452300071716, + "covertype_test_recall": 0.7672222256660461, + "covertype_test_f1-score": 0.7660686373710632, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7672222256660461 + }, + "20": { + "covertype_test_loss": 0.5520341992378235, + "covertype_test_accuracy": 0.768750011920929, + "covertype_test_precision": 0.7692099213600159, + "covertype_test_recall": 0.768750011920929, + "covertype_test_f1-score": 0.7681328058242798, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.768750011920929 + }, + "50": { + "covertype_test_loss": 0.513340950012207, + "covertype_test_accuracy": 0.7689999938011169, + "covertype_test_precision": 0.7703015804290771, + "covertype_test_recall": 0.7689999938011169, + "covertype_test_f1-score": 0.767690896987915, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7689999938011169 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6016753792762757, + "std": 0.009146789537257382, + "n": 5, + "ci95": 0.011355418534197435 + }, + "lr": { + "mean": 3.2531146666769926e-05, + "std": 7.000495149078089e-05, + "n": 5, + "ci95": 8.69086929797625e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7585000038146973, + "std": 0.003905141337477259, + "n": 5, + "ci95": 0.004848096060549164 + }, + "covertype_test_precision": { + "mean": 0.7586532354354858, + "std": 0.003543673683469402, + "n": 5, + "ci95": 0.004399346640753896 + }, + "covertype_test_recall": { + "mean": 0.7585000038146973, + "std": 0.003905141337477259, + "n": 5, + "ci95": 0.004848096060549164 + }, + "covertype_test_f1-score": { + "mean": 0.7565937280654907, + "std": 0.0048163610748364685, + "n": 5, + "ci95": 0.005979343418126157 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7585000038146973, + "std": 0.003905141337477259, + "n": 5, + "ci95": 0.004848096060549164 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5785051703453064, + "std": 0.012000920497510418, + "n": 5, + "ci95": 0.014898722058682158 + }, + "covertype_test_accuracy": { + "mean": 0.7635789394378663, + "std": 0.004503006042356079, + "n": 5, + "ci95": 0.005590324131182031 + }, + "covertype_test_precision": { + "mean": 0.7639639019966126, + "std": 0.004076621168808955, + "n": 5, + "ci95": 0.005060982259254559 + }, + "covertype_test_recall": { + "mean": 0.7635789394378663, + "std": 0.004503006042356079, + "n": 5, + "ci95": 0.005590324131182031 + }, + "covertype_test_f1-score": { + "mean": 0.7617035031318664, + "std": 0.00531238267757224, + "n": 5, + "ci95": 0.006595136847954759 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7635789394378663, + "std": 0.004503006042356079, + "n": 5, + "ci95": 0.005590324131182031 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5662230849266052, + "std": 0.010838707381314224, + "n": 5, + "ci95": 0.013455875220828842 + }, + "covertype_test_accuracy": { + "mean": 0.7665555596351623, + "std": 0.0043461498398124285, + "n": 5, + "ci95": 0.005395592654928772 + }, + "covertype_test_precision": { + "mean": 0.766152536869049, + "std": 0.0035553705913084137, + "n": 5, + "ci95": 0.004413867941755399 + }, + "covertype_test_recall": { + "mean": 0.7665555596351623, + "std": 0.0043461498398124285, + "n": 5, + "ci95": 0.005395592654928772 + }, + "covertype_test_f1-score": { + "mean": 0.7642409324645996, + "std": 0.00514539973029703, + "n": 5, + "ci95": 0.006387833373149719 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7665555596351623, + "std": 0.0043461498398124285, + "n": 5, + "ci95": 0.005395592654928772 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5527910590171814, + "std": 0.009565802116066693, + "n": 5, + "ci95": 0.0118756079606724 + }, + "covertype_test_accuracy": { + "mean": 0.7679999947547913, + "std": 0.004664539961307737, + "n": 5, + "ci95": 0.005790862828360278 + }, + "covertype_test_precision": { + "mean": 0.7679740786552429, + "std": 0.004337843209255466, + "n": 5, + "ci95": 0.005385280264313568 + }, + "covertype_test_recall": { + "mean": 0.7679999947547913, + "std": 0.004664539961307737, + "n": 5, + "ci95": 0.005790862828360278 + }, + "covertype_test_f1-score": { + "mean": 0.7659429311752319, + "std": 0.005725167774971898, + "n": 5, + "ci95": 0.007107595074588238 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7679999947547913, + "std": 0.004664539961307737, + "n": 5, + "ci95": 0.005790862828360278 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5123458862304687, + "std": 0.014519130160865954, + "n": 5, + "ci95": 0.01802499107009714 + }, + "covertype_test_accuracy": { + "mean": 0.771399998664856, + "std": 0.005224940797936945, + "n": 5, + "ci95": 0.006486580820002965 + }, + "covertype_test_precision": { + "mean": 0.7720655560493469, + "std": 0.0029758758108838256, + "n": 5, + "ci95": 0.0036944454883032626 + }, + "covertype_test_recall": { + "mean": 0.771399998664856, + "std": 0.005224940797936945, + "n": 5, + "ci95": 0.006486580820002965 + }, + "covertype_test_f1-score": { + "mean": 0.7691619634628296, + "std": 0.005884407092250629, + "n": 5, + "ci95": 0.007305285104235738 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.771399998664856, + "std": 0.005224940797936945, + "n": 5, + "ci95": 0.006486580820002965 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..e3bd29e2c4a402396729f904695878f85f1d5aa1 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmph10rkfp5", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmph10rkfp5/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5717549920082092, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7637637853622437, + "covertype_val_precision": 0.7570692896842957, + "covertype_val_recall": 0.7637637853622437, + "covertype_val_f1-score": 0.7590853571891785, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7637637853622437 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5747380256652832, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7904999852180481, + "covertype_test_precision": 0.7906838655471802, + "covertype_test_recall": 0.7904999852180481, + "covertype_test_f1-score": 0.7889058589935303, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7904999852180481 + }, + "5": { + "covertype_test_loss": 0.5490050911903381, + "covertype_test_accuracy": 0.7973684072494507, + "covertype_test_precision": 0.7975469827651978, + "covertype_test_recall": 0.7973684072494507, + "covertype_test_f1-score": 0.7957345247268677, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7973684072494507 + }, + "10": { + "covertype_test_loss": 0.5304271578788757, + "covertype_test_accuracy": 0.804444432258606, + "covertype_test_precision": 0.8039072751998901, + "covertype_test_recall": 0.804444432258606, + "covertype_test_f1-score": 0.8020994663238525, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.804444432258606 + }, + "20": { + "covertype_test_loss": 0.5211327075958252, + "covertype_test_accuracy": 0.8087499737739563, + "covertype_test_precision": 0.8077421188354492, + "covertype_test_recall": 0.8087499737739563, + "covertype_test_f1-score": 0.8068447113037109, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8087499737739563 + }, + "50": { + "covertype_test_loss": 0.4542159140110016, + "covertype_test_accuracy": 0.8130000233650208, + "covertype_test_precision": 0.814196765422821, + "covertype_test_recall": 0.8130000233650208, + "covertype_test_f1-score": 0.8106917142868042, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8130000233650208 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5737735629081726, + "lr": 1.5708421415183693e-05, + "covertype_val_accuracy": 0.7747747898101807, + "covertype_val_precision": 0.770832896232605, + "covertype_val_recall": 0.7747747898101807, + "covertype_val_f1-score": 0.7705624103546143, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7747747898101807 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5892791748046875, + "lr": 1.5708415958215483e-05, + "covertype_test_accuracy": 0.7925000190734863, + "covertype_test_precision": 0.7906819581985474, + "covertype_test_recall": 0.7925000190734863, + "covertype_test_f1-score": 0.7900331616401672, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7925000190734863 + }, + "5": { + "covertype_test_loss": 0.5535135865211487, + "covertype_test_accuracy": 0.7984210252761841, + "covertype_test_precision": 0.7954078912734985, + "covertype_test_recall": 0.7984210252761841, + "covertype_test_f1-score": 0.7961180806159973, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7984210252761841 + }, + "10": { + "covertype_test_loss": 0.5367637872695923, + "covertype_test_accuracy": 0.8033333420753479, + "covertype_test_precision": 0.7996134161949158, + "covertype_test_recall": 0.8033333420753479, + "covertype_test_f1-score": 0.8004224896430969, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8033333420753479 + }, + "20": { + "covertype_test_loss": 0.5196577906608582, + "covertype_test_accuracy": 0.8056250214576721, + "covertype_test_precision": 0.8042119145393372, + "covertype_test_recall": 0.8056250214576721, + "covertype_test_f1-score": 0.8036750555038452, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8056250214576721 + }, + "50": { + "covertype_test_loss": 0.44388675689697266, + "covertype_test_accuracy": 0.8080000281333923, + "covertype_test_precision": 0.8096383213996887, + "covertype_test_recall": 0.8080000281333923, + "covertype_test_f1-score": 0.8049172163009644, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8080000281333923 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5743492841720581, + "lr": 0.0, + "covertype_val_accuracy": 0.7767767906188965, + "covertype_val_precision": 0.7695662379264832, + "covertype_val_recall": 0.7767767906188965, + "covertype_val_f1-score": 0.7718697786331177, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7767767906188965 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.556887686252594, + "lr": 0.0, + "covertype_test_accuracy": 0.7829999923706055, + "covertype_test_precision": 0.7820008993148804, + "covertype_test_recall": 0.7829999923706055, + "covertype_test_f1-score": 0.7806472182273865, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7829999923706055 + }, + "5": { + "covertype_test_loss": 0.5260730981826782, + "covertype_test_accuracy": 0.7873684167861938, + "covertype_test_precision": 0.7848750948905945, + "covertype_test_recall": 0.7873684167861938, + "covertype_test_f1-score": 0.7853583097457886, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7873684167861938 + }, + "10": { + "covertype_test_loss": 0.5139460563659668, + "covertype_test_accuracy": 0.7933333516120911, + "covertype_test_precision": 0.7896698117256165, + "covertype_test_recall": 0.7933333516120911, + "covertype_test_f1-score": 0.7905856370925903, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7933333516120911 + }, + "20": { + "covertype_test_loss": 0.5013319849967957, + "covertype_test_accuracy": 0.7987499833106995, + "covertype_test_precision": 0.7978813648223877, + "covertype_test_recall": 0.7987499833106995, + "covertype_test_f1-score": 0.797436535358429, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7987499833106995 + }, + "50": { + "covertype_test_loss": 0.43581169843673706, + "covertype_test_accuracy": 0.8149999976158142, + "covertype_test_precision": 0.8142514824867249, + "covertype_test_recall": 0.8149999976158142, + "covertype_test_f1-score": 0.8133966326713562, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8149999976158142 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5580883026123047, + "lr": 0.0, + "covertype_val_accuracy": 0.7807807922363281, + "covertype_val_precision": 0.7740439176559448, + "covertype_val_recall": 0.7807807922363281, + "covertype_val_f1-score": 0.7753232717514038, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7807807922363281 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5550469756126404, + "lr": 0.0, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.790812611579895, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7894604802131653, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7910000085830688 + }, + "5": { + "covertype_test_loss": 0.5203308463096619, + "covertype_test_accuracy": 0.796842098236084, + "covertype_test_precision": 0.7956870794296265, + "covertype_test_recall": 0.796842098236084, + "covertype_test_f1-score": 0.7953886389732361, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.796842098236084 + }, + "10": { + "covertype_test_loss": 0.506184995174408, + "covertype_test_accuracy": 0.8038889169692993, + "covertype_test_precision": 0.801409900188446, + "covertype_test_recall": 0.8038889169692993, + "covertype_test_f1-score": 0.8016743659973145, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8038889169692993 + }, + "20": { + "covertype_test_loss": 0.4966704547405243, + "covertype_test_accuracy": 0.8087499737739563, + "covertype_test_precision": 0.8087908029556274, + "covertype_test_recall": 0.8087499737739563, + "covertype_test_f1-score": 0.8077398538589478, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8087499737739563 + }, + "50": { + "covertype_test_loss": 0.4445820152759552, + "covertype_test_accuracy": 0.8199999928474426, + "covertype_test_precision": 0.819963276386261, + "covertype_test_recall": 0.8199999928474426, + "covertype_test_f1-score": 0.8181304931640625, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8199999928474426 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5706053972244263, + "lr": 0.0, + "covertype_val_accuracy": 0.7717717885971069, + "covertype_val_precision": 0.7651775479316711, + "covertype_val_recall": 0.7717717885971069, + "covertype_val_f1-score": 0.7672185301780701, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7717717885971069 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.57975172996521, + "lr": 0.0, + "covertype_test_accuracy": 0.7885000109672546, + "covertype_test_precision": 0.7890507578849792, + "covertype_test_recall": 0.7885000109672546, + "covertype_test_f1-score": 0.7868247628211975, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7885000109672546 + }, + "5": { + "covertype_test_loss": 0.5468552708625793, + "covertype_test_accuracy": 0.793684184551239, + "covertype_test_precision": 0.7930322885513306, + "covertype_test_recall": 0.793684184551239, + "covertype_test_f1-score": 0.7919408679008484, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.793684184551239 + }, + "10": { + "covertype_test_loss": 0.5313011407852173, + "covertype_test_accuracy": 0.8022222518920898, + "covertype_test_precision": 0.7999514937400818, + "covertype_test_recall": 0.8022222518920898, + "covertype_test_f1-score": 0.7996414303779602, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8022222518920898 + }, + "20": { + "covertype_test_loss": 0.5163588523864746, + "covertype_test_accuracy": 0.8062499761581421, + "covertype_test_precision": 0.8059802651405334, + "covertype_test_recall": 0.8062499761581421, + "covertype_test_f1-score": 0.8046417832374573, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8062499761581421 + }, + "50": { + "covertype_test_loss": 0.465127170085907, + "covertype_test_accuracy": 0.8059999942779541, + "covertype_test_precision": 0.8064154982566833, + "covertype_test_recall": 0.8059999942779541, + "covertype_test_f1-score": 0.8039712309837341, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8059999942779541 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.571140718460083, + "std": 0.014817651827992743, + "n": 5, + "ci95": 0.018395595253996127 + }, + "lr": { + "mean": 3.339010368108575e-06, + "std": 6.9278934584932095e-06, + "n": 5, + "ci95": 8.600736844449962e-06 + }, + "covertype_test_accuracy": { + "mean": 0.7891000032424926, + "std": 0.0036979792064245347, + "n": 5, + "ci95": 0.0045909115377220115 + }, + "covertype_test_precision": { + "mean": 0.7886460185050964, + "std": 0.003785281349248343, + "n": 5, + "ci95": 0.0046992940873213625 + }, + "covertype_test_recall": { + "mean": 0.7891000032424926, + "std": 0.0036979792064245347, + "n": 5, + "ci95": 0.0045909115377220115 + }, + "covertype_test_f1-score": { + "mean": 0.7871742963790893, + "std": 0.0038445734190689835, + "n": 5, + "ci95": 0.0047729031132894085 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7891000032424926, + "std": 0.0036979792064245347, + "n": 5, + "ci95": 0.0045909115377220115 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5391555786132812, + "std": 0.014899432794085897, + "n": 5, + "ci95": 0.01849712345625071 + }, + "covertype_test_accuracy": { + "mean": 0.7947368264198303, + "std": 0.0044814122698339735, + "n": 5, + "ci95": 0.005563516219649578 + }, + "covertype_test_precision": { + "mean": 0.7933098673820496, + "std": 0.004980673275979292, + "n": 5, + "ci95": 0.006183331255241239 + }, + "covertype_test_recall": { + "mean": 0.7947368264198303, + "std": 0.0044814122698339735, + "n": 5, + "ci95": 0.005563516219649578 + }, + "covertype_test_f1-score": { + "mean": 0.7929080843925476, + "std": 0.004538187873602958, + "n": 5, + "ci95": 0.005634001141239006 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7947368264198303, + "std": 0.0044814122698339735, + "n": 5, + "ci95": 0.005563516219649578 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.523724627494812, + "std": 0.012996213968672576, + "n": 5, + "ci95": 0.016134344009243545 + }, + "covertype_test_accuracy": { + "mean": 0.8014444589614869, + "std": 0.004608093923455063, + "n": 5, + "ci95": 0.005720787051301734 + }, + "covertype_test_precision": { + "mean": 0.79891037940979, + "std": 0.005435596622170954, + "n": 5, + "ci95": 0.006748102640429672 + }, + "covertype_test_recall": { + "mean": 0.8014444589614869, + "std": 0.004608093923455063, + "n": 5, + "ci95": 0.005720787051301734 + }, + "covertype_test_f1-score": { + "mean": 0.7988846778869629, + "std": 0.004741540938439497, + "n": 5, + "ci95": 0.005886456841900407 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8014444589614869, + "std": 0.004608093923455063, + "n": 5, + "ci95": 0.005720787051301734 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5110303580760955, + "std": 0.011237750827360726, + "n": 5, + "ci95": 0.013951273669074447 + }, + "covertype_test_accuracy": { + "mean": 0.8056249856948853, + "std": 0.004098395169199572, + "n": 5, + "ci95": 0.005088013917367179 + }, + "covertype_test_precision": { + "mean": 0.804921293258667, + "std": 0.0043045149038961235, + "n": 5, + "ci95": 0.005343904341663406 + }, + "covertype_test_recall": { + "mean": 0.8056249856948853, + "std": 0.004098395169199572, + "n": 5, + "ci95": 0.005088013917367179 + }, + "covertype_test_f1-score": { + "mean": 0.804067587852478, + "std": 0.0040513143376363055, + "n": 5, + "ci95": 0.005029564715583178 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8056249856948853, + "std": 0.004098395169199572, + "n": 5, + "ci95": 0.005088013917367179 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4487247109413147, + "std": 0.011252861811522548, + "n": 5, + "ci95": 0.013970033426136987 + }, + "covertype_test_accuracy": { + "mean": 0.8124000072479248, + "std": 0.005594634317604816, + "n": 5, + "ci95": 0.006945542363625404 + }, + "covertype_test_precision": { + "mean": 0.8128930687904358, + "std": 0.0051498798220185535, + "n": 5, + "ci95": 0.006393395249954938 + }, + "covertype_test_recall": { + "mean": 0.8124000072479248, + "std": 0.005594634317604816, + "n": 5, + "ci95": 0.006945542363625404 + }, + "covertype_test_f1-score": { + "mean": 0.8102214574813843, + "std": 0.005917263517706578, + "n": 5, + "ci95": 0.0073460752045294226 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8124000072479248, + "std": 0.005594634317604816, + "n": 5, + "ci95": 0.006945542363625404 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..02bd0fb4c9e89f2d5d8ed8d88d4e6461530e2f86 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpoazwi74r", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpoazwi74r/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5882784724235535, + "lr": 0.0, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.7463619112968445, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7419014573097229, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5795894265174866, + "lr": 0.0, + "covertype_test_accuracy": 0.7394999861717224, + "covertype_test_precision": 0.738455593585968, + "covertype_test_recall": 0.7394999861717224, + "covertype_test_f1-score": 0.7344145774841309, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7394999861717224 + }, + "5": { + "covertype_test_loss": 0.5614052414894104, + "covertype_test_accuracy": 0.7463157773017883, + "covertype_test_precision": 0.7436582446098328, + "covertype_test_recall": 0.7463157773017883, + "covertype_test_f1-score": 0.7424567341804504, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7463157773017883 + }, + "10": { + "covertype_test_loss": 0.5492986440658569, + "covertype_test_accuracy": 0.7516666650772095, + "covertype_test_precision": 0.7478961944580078, + "covertype_test_recall": 0.7516666650772095, + "covertype_test_f1-score": 0.7471020221710205, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7516666650772095 + }, + "20": { + "covertype_test_loss": 0.5326554775238037, + "covertype_test_accuracy": 0.7549999952316284, + "covertype_test_precision": 0.7539896368980408, + "covertype_test_recall": 0.7549999952316284, + "covertype_test_f1-score": 0.7516830563545227, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7549999952316284 + }, + "50": { + "covertype_test_loss": 0.5051573514938354, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7597317695617676, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7587183117866516, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7599999904632568 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5826045870780945, + "lr": 0.0, + "covertype_val_accuracy": 0.7507507801055908, + "covertype_val_precision": 0.7489601969718933, + "covertype_val_recall": 0.7507507801055908, + "covertype_val_f1-score": 0.746799647808075, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7507507801055908 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5740175843238831, + "lr": 0.0, + "covertype_test_accuracy": 0.7515000104904175, + "covertype_test_precision": 0.7532845139503479, + "covertype_test_recall": 0.7515000104904175, + "covertype_test_f1-score": 0.7495343089103699, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7515000104904175 + }, + "5": { + "covertype_test_loss": 0.5564807653427124, + "covertype_test_accuracy": 0.75789475440979, + "covertype_test_precision": 0.7609965205192566, + "covertype_test_recall": 0.75789475440979, + "covertype_test_f1-score": 0.7558525204658508, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.75789475440979 + }, + "10": { + "covertype_test_loss": 0.5464351773262024, + "covertype_test_accuracy": 0.7644444704055786, + "covertype_test_precision": 0.7659782767295837, + "covertype_test_recall": 0.7644444704055786, + "covertype_test_f1-score": 0.7616165280342102, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7644444704055786 + }, + "20": { + "covertype_test_loss": 0.5313056111335754, + "covertype_test_accuracy": 0.7674999833106995, + "covertype_test_precision": 0.768386721611023, + "covertype_test_recall": 0.7674999833106995, + "covertype_test_f1-score": 0.7650977969169617, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7674999833106995 + }, + "50": { + "covertype_test_loss": 0.4839841425418854, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7866371870040894, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7837756276130676, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5843296051025391, + "lr": 0.0, + "covertype_val_accuracy": 0.7457457184791565, + "covertype_val_precision": 0.7404104471206665, + "covertype_val_recall": 0.7457457184791565, + "covertype_val_f1-score": 0.739422619342804, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7457457184791565 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5634808540344238, + "lr": 0.0, + "covertype_test_accuracy": 0.7574999928474426, + "covertype_test_precision": 0.7571493983268738, + "covertype_test_recall": 0.7574999928474426, + "covertype_test_f1-score": 0.7544553875923157, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7574999928474426 + }, + "5": { + "covertype_test_loss": 0.5476512908935547, + "covertype_test_accuracy": 0.7631579041481018, + "covertype_test_precision": 0.7631667852401733, + "covertype_test_recall": 0.7631579041481018, + "covertype_test_f1-score": 0.7610406279563904, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7631579041481018 + }, + "10": { + "covertype_test_loss": 0.5379623174667358, + "covertype_test_accuracy": 0.7688888907432556, + "covertype_test_precision": 0.7680562138557434, + "covertype_test_recall": 0.7688888907432556, + "covertype_test_f1-score": 0.7655408978462219, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7688888907432556 + }, + "20": { + "covertype_test_loss": 0.5225512981414795, + "covertype_test_accuracy": 0.7731249928474426, + "covertype_test_precision": 0.7735706567764282, + "covertype_test_recall": 0.7731249928474426, + "covertype_test_f1-score": 0.7712447643280029, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7731249928474426 + }, + "50": { + "covertype_test_loss": 0.4795602858066559, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.7715280652046204, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7710782289505005, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7730000019073486 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5913019776344299, + "lr": 0.0, + "covertype_val_accuracy": 0.7437437176704407, + "covertype_val_precision": 0.7408254146575928, + "covertype_val_recall": 0.7437437176704407, + "covertype_val_f1-score": 0.736737072467804, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7437437176704407 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5626967549324036, + "lr": 0.0, + "covertype_test_accuracy": 0.7490000128746033, + "covertype_test_precision": 0.7505919933319092, + "covertype_test_recall": 0.7490000128746033, + "covertype_test_f1-score": 0.7447617650032043, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7490000128746033 + }, + "5": { + "covertype_test_loss": 0.5453360080718994, + "covertype_test_accuracy": 0.7573684453964233, + "covertype_test_precision": 0.7593349814414978, + "covertype_test_recall": 0.7573684453964233, + "covertype_test_f1-score": 0.754774272441864, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7573684453964233 + }, + "10": { + "covertype_test_loss": 0.5343860387802124, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7611205577850342, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7567274570465088, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7599999904632568 + }, + "20": { + "covertype_test_loss": 0.5235994458198547, + "covertype_test_accuracy": 0.7612500190734863, + "covertype_test_precision": 0.7665894031524658, + "covertype_test_recall": 0.7612500190734863, + "covertype_test_f1-score": 0.7587099671363831, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7612500190734863 + }, + "50": { + "covertype_test_loss": 0.4857487678527832, + "covertype_test_accuracy": 0.7670000195503235, + "covertype_test_precision": 0.7675695419311523, + "covertype_test_recall": 0.7670000195503235, + "covertype_test_f1-score": 0.7659873366355896, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7670000195503235 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5943275094032288, + "lr": 0.0, + "covertype_val_accuracy": 0.7437437176704407, + "covertype_val_precision": 0.7376891374588013, + "covertype_val_recall": 0.7437437176704407, + "covertype_val_f1-score": 0.7377804517745972, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7437437176704407 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5843455195426941, + "lr": 0.0, + "covertype_test_accuracy": 0.7394999861717224, + "covertype_test_precision": 0.7399446964263916, + "covertype_test_recall": 0.7394999861717224, + "covertype_test_f1-score": 0.7356163859367371, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7394999861717224 + }, + "5": { + "covertype_test_loss": 0.5668758749961853, + "covertype_test_accuracy": 0.7473683953285217, + "covertype_test_precision": 0.7480959296226501, + "covertype_test_recall": 0.7473683953285217, + "covertype_test_f1-score": 0.7450573444366455, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7473683953285217 + }, + "10": { + "covertype_test_loss": 0.5567381978034973, + "covertype_test_accuracy": 0.7527777552604675, + "covertype_test_precision": 0.7531910538673401, + "covertype_test_recall": 0.7527777552604675, + "covertype_test_f1-score": 0.7504559755325317, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7527777552604675 + }, + "20": { + "covertype_test_loss": 0.5340880751609802, + "covertype_test_accuracy": 0.7581250071525574, + "covertype_test_precision": 0.7589263319969177, + "covertype_test_recall": 0.7581250071525574, + "covertype_test_f1-score": 0.7562503218650818, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7581250071525574 + }, + "50": { + "covertype_test_loss": 0.4947068989276886, + "covertype_test_accuracy": 0.7670000195503235, + "covertype_test_precision": 0.768903374671936, + "covertype_test_recall": 0.7670000195503235, + "covertype_test_f1-score": 0.7650265097618103, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7670000195503235 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5728260278701782, + "std": 0.009615046810940952, + "n": 5, + "ci95": 0.011936743522894349 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7473999977111816, + "std": 0.007845387493820013, + "n": 5, + "ci95": 0.009739773522983785 + }, + "covertype_test_precision": { + "mean": 0.747885239124298, + "std": 0.008280606349086516, + "n": 5, + "ci95": 0.010280082473506254 + }, + "covertype_test_recall": { + "mean": 0.7473999977111816, + "std": 0.007845387493820013, + "n": 5, + "ci95": 0.009739773522983785 + }, + "covertype_test_f1-score": { + "mean": 0.7437564849853515, + "std": 0.008694722573186707, + "n": 5, + "ci95": 0.010794193247270616 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7473999977111816, + "std": 0.007845387493820013, + "n": 5, + "ci95": 0.009739773522983785 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5555498361587524, + "std": 0.009084889349533228, + "n": 5, + "ci95": 0.0112785716212899 + }, + "covertype_test_accuracy": { + "mean": 0.754421055316925, + "std": 0.007289063139080605, + "n": 5, + "ci95": 0.009049116340690345 + }, + "covertype_test_precision": { + "mean": 0.7550504922866821, + "std": 0.008627507741894878, + "n": 5, + "ci95": 0.01071074839069933 + }, + "covertype_test_recall": { + "mean": 0.754421055316925, + "std": 0.007289063139080605, + "n": 5, + "ci95": 0.009049116340690345 + }, + "covertype_test_f1-score": { + "mean": 0.7518362998962402, + "std": 0.0078008309737081566, + "n": 5, + "ci95": 0.009684458165367147 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.754421055316925, + "std": 0.007289063139080605, + "n": 5, + "ci95": 0.009049116340690345 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.544964075088501, + "std": 0.008951285629093135, + "n": 5, + "ci95": 0.01111270728636195 + }, + "covertype_test_accuracy": { + "mean": 0.7595555543899536, + "std": 0.007405797160727323, + "n": 5, + "ci95": 0.009194037535999275 + }, + "covertype_test_precision": { + "mean": 0.7592484593391419, + "std": 0.008543093896618555, + "n": 5, + "ci95": 0.010605951561244671 + }, + "covertype_test_recall": { + "mean": 0.7595555543899536, + "std": 0.007405797160727323, + "n": 5, + "ci95": 0.009194037535999275 + }, + "covertype_test_f1-score": { + "mean": 0.7562885761260987, + "std": 0.007625567986447853, + "n": 5, + "ci95": 0.009466875311209643 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7595555543899536, + "std": 0.007405797160727323, + "n": 5, + "ci95": 0.009194037535999275 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5288399815559387, + "std": 0.005366343705696096, + "n": 5, + "ci95": 0.006662127572556663 + }, + "covertype_test_accuracy": { + "mean": 0.7629999995231629, + "std": 0.0073074173747823415, + "n": 5, + "ci95": 0.009071902480834882 + }, + "covertype_test_precision": { + "mean": 0.764292550086975, + "std": 0.007795308765251527, + "n": 5, + "ci95": 0.009677602537170751 + }, + "covertype_test_recall": { + "mean": 0.7629999995231629, + "std": 0.0073074173747823415, + "n": 5, + "ci95": 0.009071902480834882 + }, + "covertype_test_f1-score": { + "mean": 0.7605971813201904, + "std": 0.0076737369165832394, + "n": 5, + "ci95": 0.0095266753492234 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7629999995231629, + "std": 0.0073074173747823415, + "n": 5, + "ci95": 0.009071902480834882 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4898314893245697, + "std": 0.010185889391077682, + "n": 5, + "ci95": 0.012645424573025666 + }, + "covertype_test_accuracy": { + "mean": 0.7704000115394593, + "std": 0.009370174867624249, + "n": 5, + "ci95": 0.011632743590205703 + }, + "covertype_test_precision": { + "mean": 0.7708739876747132, + "std": 0.009847055045394026, + "n": 5, + "ci95": 0.012224773612016177 + }, + "covertype_test_recall": { + "mean": 0.7704000115394593, + "std": 0.009370174867624249, + "n": 5, + "ci95": 0.011632743590205703 + }, + "covertype_test_f1-score": { + "mean": 0.7689172029495239, + "std": 0.009396565967278468, + "n": 5, + "ci95": 0.011665507215183703 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7704000115394593, + "std": 0.009370174867624249, + "n": 5, + "ci95": 0.011632743590205703 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..8b3b5f6010b3c65dbe5f42b4734d3f58471b5135 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpv1ovwci5", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpv1ovwci5/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6519988179206848, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7237237095832825, + "covertype_val_precision": 0.7128663063049316, + "covertype_val_recall": 0.7237237095832825, + "covertype_val_f1-score": 0.7065020799636841, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7237237095832825 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6575020551681519, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7110000252723694, + "covertype_test_precision": 0.7046477794647217, + "covertype_test_recall": 0.7110000252723694, + "covertype_test_f1-score": 0.6955135464668274, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7110000252723694 + }, + "5": { + "covertype_test_loss": 0.6375145316123962, + "covertype_test_accuracy": 0.719473659992218, + "covertype_test_precision": 0.7137922048568726, + "covertype_test_recall": 0.719473659992218, + "covertype_test_f1-score": 0.7058295607566833, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.719473659992218 + }, + "10": { + "covertype_test_loss": 0.6290067434310913, + "covertype_test_accuracy": 0.7238888740539551, + "covertype_test_precision": 0.7189860939979553, + "covertype_test_recall": 0.7238888740539551, + "covertype_test_f1-score": 0.7108733654022217, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7238888740539551 + }, + "20": { + "covertype_test_loss": 0.6185762286186218, + "covertype_test_accuracy": 0.7268750071525574, + "covertype_test_precision": 0.7235422134399414, + "covertype_test_recall": 0.7268750071525574, + "covertype_test_f1-score": 0.713451087474823, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7268750071525574 + }, + "50": { + "covertype_test_loss": 0.5880303382873535, + "covertype_test_accuracy": 0.7289999723434448, + "covertype_test_precision": 0.738842248916626, + "covertype_test_recall": 0.7289999723434448, + "covertype_test_f1-score": 0.7124757170677185, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7289999723434448 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6821452975273132, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7127127051353455, + "covertype_val_precision": 0.7192357778549194, + "covertype_val_recall": 0.7127127051353455, + "covertype_val_f1-score": 0.7032090425491333, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7127127051353455 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6659727692604065, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7124999761581421, + "covertype_test_precision": 0.7132174968719482, + "covertype_test_recall": 0.7124999761581421, + "covertype_test_f1-score": 0.7021526098251343, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7124999761581421 + }, + "5": { + "covertype_test_loss": 0.6544579863548279, + "covertype_test_accuracy": 0.7157894968986511, + "covertype_test_precision": 0.7152127623558044, + "covertype_test_recall": 0.7157894968986511, + "covertype_test_f1-score": 0.7075378894805908, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7157894968986511 + }, + "10": { + "covertype_test_loss": 0.6462716460227966, + "covertype_test_accuracy": 0.7205555438995361, + "covertype_test_precision": 0.7201696634292603, + "covertype_test_recall": 0.7205555438995361, + "covertype_test_f1-score": 0.7134479284286499, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7205555438995361 + }, + "20": { + "covertype_test_loss": 0.6324684023857117, + "covertype_test_accuracy": 0.7206249833106995, + "covertype_test_precision": 0.7223668694496155, + "covertype_test_recall": 0.7206249833106995, + "covertype_test_f1-score": 0.7144731283187866, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7206249833106995 + }, + "50": { + "covertype_test_loss": 0.5867924094200134, + "covertype_test_accuracy": 0.7429999709129333, + "covertype_test_precision": 0.7384922504425049, + "covertype_test_recall": 0.7429999709129333, + "covertype_test_f1-score": 0.7374922633171082, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7429999709129333 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6781454682350159, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7237237095832825, + "covertype_val_precision": 0.7373480796813965, + "covertype_val_recall": 0.7237237095832825, + "covertype_val_f1-score": 0.7264984846115112, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7237237095832825 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6768233776092529, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.7299512028694153, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7186641693115234, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7200000286102295 + }, + "5": { + "covertype_test_loss": 0.6511521935462952, + "covertype_test_accuracy": 0.7284210324287415, + "covertype_test_precision": 0.738263726234436, + "covertype_test_recall": 0.7284210324287415, + "covertype_test_f1-score": 0.725914478302002, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7284210324287415 + }, + "10": { + "covertype_test_loss": 0.6348142623901367, + "covertype_test_accuracy": 0.7344444394111633, + "covertype_test_precision": 0.7412071824073792, + "covertype_test_recall": 0.7344444394111633, + "covertype_test_f1-score": 0.731451690196991, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7344444394111633 + }, + "20": { + "covertype_test_loss": 0.6214293241500854, + "covertype_test_accuracy": 0.737500011920929, + "covertype_test_precision": 0.7423903346061707, + "covertype_test_recall": 0.737500011920929, + "covertype_test_f1-score": 0.7336899638175964, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.737500011920929 + }, + "50": { + "covertype_test_loss": 0.5646162629127502, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.7523021697998047, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.7465407848358154, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.75 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6676791906356812, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7157157063484192, + "covertype_val_precision": 0.718753457069397, + "covertype_val_recall": 0.7157157063484192, + "covertype_val_f1-score": 0.7100905776023865, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7157157063484192 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6620477437973022, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.715499997138977, + "covertype_test_precision": 0.7169796824455261, + "covertype_test_recall": 0.715499997138977, + "covertype_test_f1-score": 0.7088974118232727, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.715499997138977 + }, + "5": { + "covertype_test_loss": 0.6514201760292053, + "covertype_test_accuracy": 0.7210526466369629, + "covertype_test_precision": 0.7248055934906006, + "covertype_test_recall": 0.7210526466369629, + "covertype_test_f1-score": 0.7143701910972595, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7210526466369629 + }, + "10": { + "covertype_test_loss": 0.6429666876792908, + "covertype_test_accuracy": 0.7238888740539551, + "covertype_test_precision": 0.7287768125534058, + "covertype_test_recall": 0.7238888740539551, + "covertype_test_f1-score": 0.7155078649520874, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7238888740539551 + }, + "20": { + "covertype_test_loss": 0.6224204897880554, + "covertype_test_accuracy": 0.7256249785423279, + "covertype_test_precision": 0.731310248374939, + "covertype_test_recall": 0.7256249785423279, + "covertype_test_f1-score": 0.7181891202926636, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7256249785423279 + }, + "50": { + "covertype_test_loss": 0.580659031867981, + "covertype_test_accuracy": 0.7379999756813049, + "covertype_test_precision": 0.7418262958526611, + "covertype_test_recall": 0.7379999756813049, + "covertype_test_f1-score": 0.732070803642273, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7379999756813049 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6581296324729919, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.728728711605072, + "covertype_val_precision": 0.7214794754981995, + "covertype_val_recall": 0.728728711605072, + "covertype_val_f1-score": 0.7141947150230408, + "covertype_val_support": 999.0, + "covertype_val_score": 0.728728711605072 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6543038487434387, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.718999981880188, + "covertype_test_precision": 0.7083009481430054, + "covertype_test_recall": 0.718999981880188, + "covertype_test_f1-score": 0.7041391134262085, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.718999981880188 + }, + "5": { + "covertype_test_loss": 0.639788031578064, + "covertype_test_accuracy": 0.7242105007171631, + "covertype_test_precision": 0.7134984731674194, + "covertype_test_recall": 0.7242105007171631, + "covertype_test_f1-score": 0.7117172479629517, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7242105007171631 + }, + "10": { + "covertype_test_loss": 0.6329513192176819, + "covertype_test_accuracy": 0.726111114025116, + "covertype_test_precision": 0.7147812247276306, + "covertype_test_recall": 0.726111114025116, + "covertype_test_f1-score": 0.7159579992294312, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.726111114025116 + }, + "20": { + "covertype_test_loss": 0.6106584668159485, + "covertype_test_accuracy": 0.7293750047683716, + "covertype_test_precision": 0.7219144701957703, + "covertype_test_recall": 0.7293750047683716, + "covertype_test_f1-score": 0.7211164832115173, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7293750047683716 + }, + "50": { + "covertype_test_loss": 0.5552031397819519, + "covertype_test_accuracy": 0.7509999871253967, + "covertype_test_precision": 0.7414731979370117, + "covertype_test_recall": 0.7509999871253967, + "covertype_test_f1-score": 0.7444890141487122, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7509999871253967 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6633299589157104, + "std": 0.008748371235549269, + "n": 5, + "ci95": 0.010860796180731071 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7156000018119812, + "std": 0.003927468791841919, + "n": 5, + "ci95": 0.004875814812367077 + }, + "covertype_test_precision": { + "mean": 0.7146194219589234, + "std": 0.009771853647031906, + "n": 5, + "ci95": 0.012131413712427317 + }, + "covertype_test_recall": { + "mean": 0.7156000018119812, + "std": 0.003927468791841919, + "n": 5, + "ci95": 0.004875814812367077 + }, + "covertype_test_f1-score": { + "mean": 0.7058733701705933, + "std": 0.008615785247986013, + "n": 5, + "ci95": 0.010696195325489122 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7156000018119812, + "std": 0.003927468791841919, + "n": 5, + "ci95": 0.004875814812367077 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6468665838241577, + "std": 0.007653395121042791, + "n": 5, + "ci95": 0.009501421723220747 + }, + "covertype_test_accuracy": { + "mean": 0.7217894673347474, + "std": 0.004789169339694451, + "n": 5, + "ci95": 0.00594558583225945 + }, + "covertype_test_precision": { + "mean": 0.7211145520210266, + "std": 0.01065563829248701, + "n": 5, + "ci95": 0.013228601365249289 + }, + "covertype_test_recall": { + "mean": 0.7217894673347474, + "std": 0.004789169339694451, + "n": 5, + "ci95": 0.00594558583225945 + }, + "covertype_test_f1-score": { + "mean": 0.7130738735198975, + "std": 0.007929835906689145, + "n": 5, + "ci95": 0.009844613266893017 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7217894673347474, + "std": 0.004789169339694451, + "n": 5, + "ci95": 0.00594558583225945 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6372021317481995, + "std": 0.007183695274174268, + "n": 5, + "ci95": 0.008918305830489736 + }, + "covertype_test_accuracy": { + "mean": 0.7257777690887451, + "std": 0.005235211986056688, + "n": 5, + "ci95": 0.00649933213995715 + }, + "covertype_test_precision": { + "mean": 0.7247841954231262, + "std": 0.010495556219513428, + "n": 5, + "ci95": 0.013029865083952714 + }, + "covertype_test_recall": { + "mean": 0.7257777690887451, + "std": 0.005235211986056688, + "n": 5, + "ci95": 0.00649933213995715 + }, + "covertype_test_f1-score": { + "mean": 0.7174477696418762, + "std": 0.008082604126125412, + "n": 5, + "ci95": 0.010034269655438618 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7257777690887451, + "std": 0.005235211986056688, + "n": 5, + "ci95": 0.00649933213995715 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6211105823516846, + "std": 0.007849955378343234, + "n": 5, + "ci95": 0.009745444391474394 + }, + "covertype_test_accuracy": { + "mean": 0.727999997138977, + "std": 0.0061935061073970345, + "n": 5, + "ci95": 0.007689020694870974 + }, + "covertype_test_precision": { + "mean": 0.7283048272132874, + "std": 0.008749465269981061, + "n": 5, + "ci95": 0.010862154386122508 + }, + "covertype_test_recall": { + "mean": 0.727999997138977, + "std": 0.0061935061073970345, + "n": 5, + "ci95": 0.007689020694870974 + }, + "covertype_test_f1-score": { + "mean": 0.7201839566230774, + "std": 0.008142577832761119, + "n": 5, + "ci95": 0.010108724909615136 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.727999997138977, + "std": 0.0061935061073970345, + "n": 5, + "ci95": 0.007689020694870974 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.57506023645401, + "std": 0.014496506525134074, + "n": 5, + "ci95": 0.017996904619495616 + }, + "covertype_test_accuracy": { + "mean": 0.742199981212616, + "std": 0.009093963125040346, + "n": 5, + "ci95": 0.011289836395465474 + }, + "covertype_test_precision": { + "mean": 0.7425872325897217, + "std": 0.005634578165641151, + "n": 5, + "ci95": 0.006995131250575455 + }, + "covertype_test_recall": { + "mean": 0.742199981212616, + "std": 0.009093963125040346, + "n": 5, + "ci95": 0.011289836395465474 + }, + "covertype_test_f1-score": { + "mean": 0.7346137166023254, + "std": 0.013643862348890102, + "n": 5, + "ci95": 0.016938376767448915 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.742199981212616, + "std": 0.009093963125040346, + "n": 5, + "ci95": 0.011289836395465474 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..d001d822d341677d4d39b6a8bb561e1dacff7e6f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmptqz4h2d6", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmptqz4h2d6/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5796018838882446, + "lr": 0.0, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7672282457351685, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7679005265235901, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5560153722763062, + "lr": 0.0, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7809450030326843, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7795791029930115, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7799999713897705 + }, + "5": { + "covertype_test_loss": 0.5259895324707031, + "covertype_test_accuracy": 0.7873684167861938, + "covertype_test_precision": 0.7879394888877869, + "covertype_test_recall": 0.7873684167861938, + "covertype_test_f1-score": 0.7866804003715515, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7873684167861938 + }, + "10": { + "covertype_test_loss": 0.5049747824668884, + "covertype_test_accuracy": 0.7933333516120911, + "covertype_test_precision": 0.7925611138343811, + "covertype_test_recall": 0.7933333516120911, + "covertype_test_f1-score": 0.7919595837593079, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7933333516120911 + }, + "20": { + "covertype_test_loss": 0.49683815240859985, + "covertype_test_accuracy": 0.7975000143051147, + "covertype_test_precision": 0.7978212237358093, + "covertype_test_recall": 0.7975000143051147, + "covertype_test_f1-score": 0.796958327293396, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7975000143051147 + }, + "50": { + "covertype_test_loss": 0.45199981331825256, + "covertype_test_accuracy": 0.796999990940094, + "covertype_test_precision": 0.7963932752609253, + "covertype_test_recall": 0.796999990940094, + "covertype_test_f1-score": 0.7954501509666443, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.796999990940094 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5917163491249084, + "lr": 0.0, + "covertype_val_accuracy": 0.7637637853622437, + "covertype_val_precision": 0.7560132145881653, + "covertype_val_recall": 0.7637637853622437, + "covertype_val_f1-score": 0.7576555609703064, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7637637853622437 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5544953346252441, + "lr": 0.0, + "covertype_test_accuracy": 0.7894999980926514, + "covertype_test_precision": 0.7906935811042786, + "covertype_test_recall": 0.7894999980926514, + "covertype_test_f1-score": 0.7883853316307068, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7894999980926514 + }, + "5": { + "covertype_test_loss": 0.5296466946601868, + "covertype_test_accuracy": 0.7952631711959839, + "covertype_test_precision": 0.7978019714355469, + "covertype_test_recall": 0.7952631711959839, + "covertype_test_f1-score": 0.7945462465286255, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7952631711959839 + }, + "10": { + "covertype_test_loss": 0.5181299448013306, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.8021860122680664, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.799142062664032, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.800000011920929 + }, + "20": { + "covertype_test_loss": 0.5085632801055908, + "covertype_test_accuracy": 0.8031250238418579, + "covertype_test_precision": 0.8055456280708313, + "covertype_test_recall": 0.8031250238418579, + "covertype_test_f1-score": 0.8026952743530273, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8031250238418579 + }, + "50": { + "covertype_test_loss": 0.45363563299179077, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8127496242523193, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8092933893203735, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8100000023841858 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6210622191429138, + "lr": 0.0, + "covertype_val_accuracy": 0.7607607841491699, + "covertype_val_precision": 0.7601794004440308, + "covertype_val_recall": 0.7607607841491699, + "covertype_val_f1-score": 0.7578896880149841, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7607607841491699 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5774897933006287, + "lr": 0.0, + "covertype_test_accuracy": 0.7745000123977661, + "covertype_test_precision": 0.783273458480835, + "covertype_test_recall": 0.7745000123977661, + "covertype_test_f1-score": 0.7742373943328857, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7745000123977661 + }, + "5": { + "covertype_test_loss": 0.5618652105331421, + "covertype_test_accuracy": 0.7789473533630371, + "covertype_test_precision": 0.7896208763122559, + "covertype_test_recall": 0.7789473533630371, + "covertype_test_f1-score": 0.779314398765564, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7789473533630371 + }, + "10": { + "covertype_test_loss": 0.5420126914978027, + "covertype_test_accuracy": 0.7844444513320923, + "covertype_test_precision": 0.7938107252120972, + "covertype_test_recall": 0.7844444513320923, + "covertype_test_f1-score": 0.7842831611633301, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7844444513320923 + }, + "20": { + "covertype_test_loss": 0.529559850692749, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7991132736206055, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7901237607002258, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7900000214576721 + }, + "50": { + "covertype_test_loss": 0.47843313217163086, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7992463111877441, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7915240526199341, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7910000085830688 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5908676981925964, + "lr": 0.0, + "covertype_val_accuracy": 0.7587587833404541, + "covertype_val_precision": 0.7469662427902222, + "covertype_val_recall": 0.7587587833404541, + "covertype_val_f1-score": 0.7515364289283752, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7587587833404541 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.555889368057251, + "lr": 0.0, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7788886427879333, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7799293994903564, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7820000052452087 + }, + "5": { + "covertype_test_loss": 0.5380570888519287, + "covertype_test_accuracy": 0.785263180732727, + "covertype_test_precision": 0.7827589511871338, + "covertype_test_recall": 0.785263180732727, + "covertype_test_f1-score": 0.7829841375350952, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.785263180732727 + }, + "10": { + "covertype_test_loss": 0.5263171195983887, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7862390875816345, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7868167161941528, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7900000214576721 + }, + "20": { + "covertype_test_loss": 0.5076984763145447, + "covertype_test_accuracy": 0.7912499904632568, + "covertype_test_precision": 0.7875127196311951, + "covertype_test_recall": 0.7912499904632568, + "covertype_test_f1-score": 0.7886274456977844, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7912499904632568 + }, + "50": { + "covertype_test_loss": 0.4554063677787781, + "covertype_test_accuracy": 0.7940000295639038, + "covertype_test_precision": 0.7939245700836182, + "covertype_test_recall": 0.7940000295639038, + "covertype_test_f1-score": 0.7914927005767822, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7940000295639038 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5603851079940796, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7877877950668335, + "covertype_val_precision": 0.7786708474159241, + "covertype_val_recall": 0.7877877950668335, + "covertype_val_f1-score": 0.7813202142715454, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7877877950668335 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5554277896881104, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7855642437934875, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7856887578964233, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7900000214576721 + }, + "5": { + "covertype_test_loss": 0.5305964946746826, + "covertype_test_accuracy": 0.7947368621826172, + "covertype_test_precision": 0.7890477776527405, + "covertype_test_recall": 0.7947368621826172, + "covertype_test_f1-score": 0.7907111644744873, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7947368621826172 + }, + "10": { + "covertype_test_loss": 0.5183309316635132, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7945387363433838, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7957717776298523, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.800000011920929 + }, + "20": { + "covertype_test_loss": 0.5075685381889343, + "covertype_test_accuracy": 0.8031250238418579, + "covertype_test_precision": 0.7989562749862671, + "covertype_test_recall": 0.8031250238418579, + "covertype_test_f1-score": 0.7993007898330688, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8031250238418579 + }, + "50": { + "covertype_test_loss": 0.4733487665653229, + "covertype_test_accuracy": 0.8069999814033508, + "covertype_test_precision": 0.8104584217071533, + "covertype_test_recall": 0.8069999814033508, + "covertype_test_f1-score": 0.8035319447517395, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8069999814033508 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5598635315895081, + "std": 0.009871432933631881, + "n": 5, + "ci95": 0.01225503790560172 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7832000017166137, + "std": 0.006582177120623437, + "n": 5, + "ci95": 0.008171542131416432 + }, + "covertype_test_precision": { + "mean": 0.7838729858398438, + "std": 0.004559524790461796, + "n": 5, + "ci95": 0.005660490175470587 + }, + "covertype_test_recall": { + "mean": 0.7832000017166137, + "std": 0.006582177120623437, + "n": 5, + "ci95": 0.008171542131416432 + }, + "covertype_test_f1-score": { + "mean": 0.7815639972686768, + "std": 0.005564060533369943, + "n": 5, + "ci95": 0.0069075860823808125 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7832000017166137, + "std": 0.006582177120623437, + "n": 5, + "ci95": 0.008171542131416432 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5372310042381286, + "std": 0.014451952221013083, + "n": 5, + "ci95": 0.017941592012953946 + }, + "covertype_test_accuracy": { + "mean": 0.7883157968521118, + "std": 0.006846163484429119, + "n": 5, + "ci95": 0.008499271947011736 + }, + "covertype_test_precision": { + "mean": 0.7894338130950928, + "std": 0.005408254717275744, + "n": 5, + "ci95": 0.006714158624079163 + }, + "covertype_test_recall": { + "mean": 0.7883157968521118, + "std": 0.006846163484429119, + "n": 5, + "ci95": 0.008499271947011736 + }, + "covertype_test_f1-score": { + "mean": 0.7868472695350647, + "std": 0.0060394475543544615, + "n": 5, + "ci95": 0.007497762402390811 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7883157968521118, + "std": 0.006846163484429119, + "n": 5, + "ci95": 0.008499271947011736 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5219530940055848, + "std": 0.013577847431568315, + "n": 5, + "ci95": 0.01685642156200378 + }, + "covertype_test_accuracy": { + "mean": 0.7935555696487426, + "std": 0.006685159930284457, + "n": 5, + "ci95": 0.008299391679147373 + }, + "covertype_test_precision": { + "mean": 0.7938671350479126, + "std": 0.005691018101614924, + "n": 5, + "ci95": 0.007065199452365269 + }, + "covertype_test_recall": { + "mean": 0.7935555696487426, + "std": 0.006685159930284457, + "n": 5, + "ci95": 0.008299391679147373 + }, + "covertype_test_f1-score": { + "mean": 0.791594660282135, + "std": 0.00614067443908293, + "n": 5, + "ci95": 0.007623432030878772 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7935555696487426, + "std": 0.006685159930284457, + "n": 5, + "ci95": 0.008299391679147373 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5100456595420837, + "std": 0.01192774862496416, + "n": 5, + "ci95": 0.014807881744240765 + }, + "covertype_test_accuracy": { + "mean": 0.7970000147819519, + "std": 0.006271844977687399, + "n": 5, + "ci95": 0.0077862756558624594 + }, + "covertype_test_precision": { + "mean": 0.7977898240089416, + "std": 0.006497778153674644, + "n": 5, + "ci95": 0.00806676377288378 + }, + "covertype_test_recall": { + "mean": 0.7970000147819519, + "std": 0.006271844977687399, + "n": 5, + "ci95": 0.0077862756558624594 + }, + "covertype_test_f1-score": { + "mean": 0.7955411195755004, + "std": 0.006009829290692201, + "n": 5, + "ci95": 0.007460992366437623 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7970000147819519, + "std": 0.006271844977687399, + "n": 5, + "ci95": 0.0077862756558624594 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.462564742565155, + "std": 0.012356071581276794, + "n": 5, + "ci95": 0.015339629677974583 + }, + "covertype_test_accuracy": { + "mean": 0.7998000025749207, + "std": 0.008288536324031643, + "n": 5, + "ci95": 0.010289927259384494 + }, + "covertype_test_precision": { + "mean": 0.802554440498352, + "std": 0.00851165422699842, + "n": 5, + "ci95": 0.010566920313651258 + }, + "covertype_test_recall": { + "mean": 0.7998000025749207, + "std": 0.008288536324031643, + "n": 5, + "ci95": 0.010289927259384494 + }, + "covertype_test_f1-score": { + "mean": 0.7982584476470947, + "std": 0.007883426436075865, + "n": 5, + "ci95": 0.009786997536191253 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7998000025749207, + "std": 0.008288536324031643, + "n": 5, + "ci95": 0.010289927259384494 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..064c61fa23b95d74b77645ca8c7c71992612d3b8 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:0c79198ea7f7d0886583c46e0636de08fdeefadf69c1f061c6bcbb0d5a3a0a76 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..ff80ae1a0b27a50718e0f3a75a5fc49454eff534 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b51e346b1435d47769780bce064eb2bee48c827ba0c922a60d823f9136a52564 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..f620b8a2937c3c2f6662df8b39861c0d11050c36 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f6b4463be32c80f890dcfb82017ba2bbbafba559bf381757b4754eeb02ea85e4 +size 11494928 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..0060d9911d783d04adc8efcc0a661474f361e4d3 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_175732/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.002 +sw_s_y_weight: 0.002 +sw_seed: 0 +sw_z_weight: 0.002 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.00025 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..82cf53de1c153149aaefefaeb44f46e3485148e6 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T17:50:15.192287+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0, + "sw_z_weight": 0.0, + "sw_s_y_weight": 0.0, + "lambda_joint": 0.00025, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..b60cc16ed8197ce26b8c8e5d8c5e570104499333 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0, + "sw_z_weight": 0.0, + "sw_s_y_weight": 0.0, + "lambda_joint": 0.00025, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.00025", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.0", + "--sw-z-end-weight", + "0.0", + "--sw-s-y-end-weight", + "0.0", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..47908fd59981799edaad52354f5e1de9b097365b --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.00025, + "s_x": 0.0, + "z": 0.0, + "s_y": 0.0 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.00025", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.0", + "--sw_z_weight", + "0.0", + "--sw_s_y_weight", + "0.0", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..df4e0e62104e4b76a44acfcf0b3b47e567d2ae0a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpzfn9d89g", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpzfn9d89g/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.7100110650062561, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6806806921958923, + "covertype_val_precision": 0.7121178507804871, + "covertype_val_recall": 0.6806806921958923, + "covertype_val_f1-score": 0.673292875289917, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6806806921958923 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6938011646270752, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6909999847412109, + "covertype_test_precision": 0.7198610901832581, + "covertype_test_recall": 0.6909999847412109, + "covertype_test_f1-score": 0.6821665167808533, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6909999847412109 + }, + "5": { + "covertype_test_loss": 0.6799184679985046, + "covertype_test_accuracy": 0.6973684430122375, + "covertype_test_precision": 0.7294570207595825, + "covertype_test_recall": 0.6973684430122375, + "covertype_test_f1-score": 0.6883636116981506, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6973684430122375 + }, + "10": { + "covertype_test_loss": 0.6676353812217712, + "covertype_test_accuracy": 0.70333331823349, + "covertype_test_precision": 0.7315946221351624, + "covertype_test_recall": 0.70333331823349, + "covertype_test_f1-score": 0.6933398842811584, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.70333331823349 + }, + "20": { + "covertype_test_loss": 0.6540492177009583, + "covertype_test_accuracy": 0.7043750286102295, + "covertype_test_precision": 0.736434280872345, + "covertype_test_recall": 0.7043750286102295, + "covertype_test_f1-score": 0.6940197348594666, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7043750286102295 + }, + "50": { + "covertype_test_loss": 0.6154661178588867, + "covertype_test_accuracy": 0.7170000076293945, + "covertype_test_precision": 0.7404892444610596, + "covertype_test_recall": 0.7170000076293945, + "covertype_test_f1-score": 0.7053847312927246, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7170000076293945 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6438823938369751, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7207207083702087, + "covertype_val_precision": 0.7278792262077332, + "covertype_val_recall": 0.7207207083702087, + "covertype_val_f1-score": 0.7121404409408569, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7207207083702087 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6346213817596436, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7179999947547913, + "covertype_test_precision": 0.7173141241073608, + "covertype_test_recall": 0.7179999947547913, + "covertype_test_f1-score": 0.708105206489563, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7179999947547913 + }, + "5": { + "covertype_test_loss": 0.616308867931366, + "covertype_test_accuracy": 0.7247368693351746, + "covertype_test_precision": 0.7232466340065002, + "covertype_test_recall": 0.7247368693351746, + "covertype_test_f1-score": 0.717615008354187, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7247368693351746 + }, + "10": { + "covertype_test_loss": 0.6082121729850769, + "covertype_test_accuracy": 0.7288888692855835, + "covertype_test_precision": 0.7253797650337219, + "covertype_test_recall": 0.7288888692855835, + "covertype_test_f1-score": 0.7228359580039978, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7288888692855835 + }, + "20": { + "covertype_test_loss": 0.5910775661468506, + "covertype_test_accuracy": 0.7331249713897705, + "covertype_test_precision": 0.7263844013214111, + "covertype_test_recall": 0.7331249713897705, + "covertype_test_f1-score": 0.7272713780403137, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7331249713897705 + }, + "50": { + "covertype_test_loss": 0.5555421113967896, + "covertype_test_accuracy": 0.7490000128746033, + "covertype_test_precision": 0.7377182245254517, + "covertype_test_recall": 0.7490000128746033, + "covertype_test_f1-score": 0.7428714632987976, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7490000128746033 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6348268985748291, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7247247099876404, + "covertype_val_precision": 0.7129576802253723, + "covertype_val_recall": 0.7247247099876404, + "covertype_val_f1-score": 0.7167074084281921, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7247247099876404 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6468459367752075, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7245000004768372, + "covertype_test_precision": 0.7145940661430359, + "covertype_test_recall": 0.7245000004768372, + "covertype_test_f1-score": 0.7157671451568604, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7245000004768372 + }, + "5": { + "covertype_test_loss": 0.6298611760139465, + "covertype_test_accuracy": 0.7315789461135864, + "covertype_test_precision": 0.7222726941108704, + "covertype_test_recall": 0.7315789461135864, + "covertype_test_f1-score": 0.7221487164497375, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7315789461135864 + }, + "10": { + "covertype_test_loss": 0.61899733543396, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7287440299987793, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7292208075523376, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7400000095367432 + }, + "20": { + "covertype_test_loss": 0.6027531623840332, + "covertype_test_accuracy": 0.7450000047683716, + "covertype_test_precision": 0.7340001463890076, + "covertype_test_recall": 0.7450000047683716, + "covertype_test_f1-score": 0.7336957454681396, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7450000047683716 + }, + "50": { + "covertype_test_loss": 0.5886383652687073, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.7437946796417236, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.736949622631073, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.75 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6646255850791931, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7157157063484192, + "covertype_val_precision": 0.7041651606559753, + "covertype_val_recall": 0.7157157063484192, + "covertype_val_f1-score": 0.7050354480743408, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7157157063484192 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6481739282608032, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7225000262260437, + "covertype_test_precision": 0.7121679782867432, + "covertype_test_recall": 0.7225000262260437, + "covertype_test_f1-score": 0.7141414284706116, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7225000262260437 + }, + "5": { + "covertype_test_loss": 0.6351187229156494, + "covertype_test_accuracy": 0.725789487361908, + "covertype_test_precision": 0.7158061265945435, + "covertype_test_recall": 0.725789487361908, + "covertype_test_f1-score": 0.7182570695877075, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.725789487361908 + }, + "10": { + "covertype_test_loss": 0.6257186532020569, + "covertype_test_accuracy": 0.7333333492279053, + "covertype_test_precision": 0.724783182144165, + "covertype_test_recall": 0.7333333492279053, + "covertype_test_f1-score": 0.7247872352600098, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7333333492279053 + }, + "20": { + "covertype_test_loss": 0.6060808300971985, + "covertype_test_accuracy": 0.7381250262260437, + "covertype_test_precision": 0.728546679019928, + "covertype_test_recall": 0.7381250262260437, + "covertype_test_f1-score": 0.7309046387672424, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7381250262260437 + }, + "50": { + "covertype_test_loss": 0.561021625995636, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7469030022621155, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7532879114151001, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7599999904632568 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6559869050979614, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7157157063484192, + "covertype_val_precision": 0.7163975238800049, + "covertype_val_recall": 0.7157157063484192, + "covertype_val_f1-score": 0.7038412094116211, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7157157063484192 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.651179313659668, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.715499997138977, + "covertype_test_precision": 0.7226644158363342, + "covertype_test_recall": 0.715499997138977, + "covertype_test_f1-score": 0.7060022950172424, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.715499997138977 + }, + "5": { + "covertype_test_loss": 0.6369082927703857, + "covertype_test_accuracy": 0.7247368693351746, + "covertype_test_precision": 0.7280703186988831, + "covertype_test_recall": 0.7247368693351746, + "covertype_test_f1-score": 0.7176286578178406, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7247368693351746 + }, + "10": { + "covertype_test_loss": 0.6283373832702637, + "covertype_test_accuracy": 0.7300000190734863, + "covertype_test_precision": 0.7304679155349731, + "covertype_test_recall": 0.7300000190734863, + "covertype_test_f1-score": 0.7237046957015991, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7300000190734863 + }, + "20": { + "covertype_test_loss": 0.6111200451850891, + "covertype_test_accuracy": 0.7325000166893005, + "covertype_test_precision": 0.7343459129333496, + "covertype_test_recall": 0.7325000166893005, + "covertype_test_f1-score": 0.7269771099090576, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7325000166893005 + }, + "50": { + "covertype_test_loss": 0.5785688757896423, + "covertype_test_accuracy": 0.7450000047683716, + "covertype_test_precision": 0.7408151626586914, + "covertype_test_recall": 0.7450000047683716, + "covertype_test_f1-score": 0.7391061186790466, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7450000047683716 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6549243450164794, + "std": 0.022630021464830168, + "n": 5, + "ci95": 0.028094378265105514 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.714300000667572, + "std": 0.01350278772341215, + "n": 5, + "ci95": 0.016763237565838113 + }, + "covertype_test_precision": { + "mean": 0.7173203349113464, + "std": 0.004153131259748781, + "n": 5, + "ci95": 0.005155966854797329 + }, + "covertype_test_recall": { + "mean": 0.714300000667572, + "std": 0.01350278772341215, + "n": 5, + "ci95": 0.016763237565838113 + }, + "covertype_test_f1-score": { + "mean": 0.7052365183830261, + "std": 0.01352065348964438, + "n": 5, + "ci95": 0.016785417288261453 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.714300000667572, + "std": 0.01350278772341215, + "n": 5, + "ci95": 0.016763237565838113 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6396231055259705, + "std": 0.02392814686831367, + "n": 5, + "ci95": 0.029705955442691806 + }, + "covertype_test_accuracy": { + "mean": 0.7208421230316162, + "std": 0.01342672274701194, + "n": 5, + "ci95": 0.016668805564391053 + }, + "covertype_test_precision": { + "mean": 0.7237705588340759, + "std": 0.005403102372186753, + "n": 5, + "ci95": 0.006707762168286691 + }, + "covertype_test_recall": { + "mean": 0.7208421230316162, + "std": 0.01342672274701194, + "n": 5, + "ci95": 0.016668805564391053 + }, + "covertype_test_f1-score": { + "mean": 0.7128026127815247, + "std": 0.01379144108334027, + "n": 5, + "ci95": 0.017121590592321868 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7208421230316162, + "std": 0.01342672274701194, + "n": 5, + "ci95": 0.016668805564391053 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6297801852226257, + "std": 0.022544636753591495, + "n": 5, + "ci95": 0.02798837613959608 + }, + "covertype_test_accuracy": { + "mean": 0.7271111130714416, + "std": 0.013979713849730216, + "n": 5, + "ci95": 0.01735532463116038 + }, + "covertype_test_precision": { + "mean": 0.7281939029693604, + "std": 0.0030245269303618193, + "n": 5, + "ci95": 0.0037548441474808424 + }, + "covertype_test_recall": { + "mean": 0.7271111130714416, + "std": 0.013979713849730216, + "n": 5, + "ci95": 0.01735532463116038 + }, + "covertype_test_f1-score": { + "mean": 0.7187777161598206, + "std": 0.014430871617872024, + "n": 5, + "ci95": 0.017915421183216915 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7271111130714416, + "std": 0.013979713849730216, + "n": 5, + "ci95": 0.01735532463116038 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6130161643028259, + "std": 0.024093759030404945, + "n": 5, + "ci95": 0.029911557135749202 + }, + "covertype_test_accuracy": { + "mean": 0.7306250095367431, + "std": 0.015505786806706966, + "n": 5, + "ci95": 0.019249890704819854 + }, + "covertype_test_precision": { + "mean": 0.7319422841072083, + "std": 0.004260588533645685, + "n": 5, + "ci95": 0.0052893712930073625 + }, + "covertype_test_recall": { + "mean": 0.7306250095367431, + "std": 0.015505786806706966, + "n": 5, + "ci95": 0.019249890704819854 + }, + "covertype_test_f1-score": { + "mean": 0.722573721408844, + "std": 0.016201015085335307, + "n": 5, + "ci95": 0.020112992238803723 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7306250095367431, + "std": 0.015505786806706966, + "n": 5, + "ci95": 0.019249890704819854 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5798474192619324, + "std": 0.023941415880070403, + "n": 5, + "ci95": 0.02972242845559094 + }, + "covertype_test_accuracy": { + "mean": 0.7442000031471252, + "std": 0.016177139849381034, + "n": 5, + "ci95": 0.020083351970405814 + }, + "covertype_test_precision": { + "mean": 0.7419440627098084, + "std": 0.0035094331570354386, + "n": 5, + "ci95": 0.004356838227621053 + }, + "covertype_test_recall": { + "mean": 0.7442000031471252, + "std": 0.016177139849381034, + "n": 5, + "ci95": 0.020083351970405814 + }, + "covertype_test_f1-score": { + "mean": 0.7355199694633484, + "std": 0.01797763316451115, + "n": 5, + "ci95": 0.022318601297838962 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7442000031471252, + "std": 0.016177139849381034, + "n": 5, + "ci95": 0.020083351970405814 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..47c8956b1bf0b1b700cdee69ad2d902c66ff6188 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpyyapf1wb", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpyyapf1wb/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5666260719299316, + "lr": 0.0, + "covertype_val_accuracy": 0.7627627849578857, + "covertype_val_precision": 0.7625699639320374, + "covertype_val_recall": 0.7627627849578857, + "covertype_val_f1-score": 0.761402428150177, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7627627849578857 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.564793050289154, + "lr": 0.0, + "covertype_test_accuracy": 0.7804999947547913, + "covertype_test_precision": 0.7824658751487732, + "covertype_test_recall": 0.7804999947547913, + "covertype_test_f1-score": 0.7807778716087341, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7804999947547913 + }, + "5": { + "covertype_test_loss": 0.5440464019775391, + "covertype_test_accuracy": 0.7905263304710388, + "covertype_test_precision": 0.7920097708702087, + "covertype_test_recall": 0.7905263304710388, + "covertype_test_f1-score": 0.7901849746704102, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7905263304710388 + }, + "10": { + "covertype_test_loss": 0.5160200595855713, + "covertype_test_accuracy": 0.7955555319786072, + "covertype_test_precision": 0.795228898525238, + "covertype_test_recall": 0.7955555319786072, + "covertype_test_f1-score": 0.7946351766586304, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7955555319786072 + }, + "20": { + "covertype_test_loss": 0.4943190813064575, + "covertype_test_accuracy": 0.8043749928474426, + "covertype_test_precision": 0.8039288520812988, + "covertype_test_recall": 0.8043749928474426, + "covertype_test_f1-score": 0.803601861000061, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8043749928474426 + }, + "50": { + "covertype_test_loss": 0.49319779872894287, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7953412532806396, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7939768433570862, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7950000166893005 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5922418236732483, + "lr": 0.0, + "covertype_val_accuracy": 0.7527527809143066, + "covertype_val_precision": 0.7435951232910156, + "covertype_val_recall": 0.7527527809143066, + "covertype_val_f1-score": 0.7456891536712646, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7527527809143066 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5726435780525208, + "lr": 0.0, + "covertype_test_accuracy": 0.7795000076293945, + "covertype_test_precision": 0.7800729870796204, + "covertype_test_recall": 0.7795000076293945, + "covertype_test_f1-score": 0.777291476726532, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7795000076293945 + }, + "5": { + "covertype_test_loss": 0.5589596033096313, + "covertype_test_accuracy": 0.7836841940879822, + "covertype_test_precision": 0.7833300828933716, + "covertype_test_recall": 0.7836841940879822, + "covertype_test_f1-score": 0.781680166721344, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7836841940879822 + }, + "10": { + "covertype_test_loss": 0.5342417359352112, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7841835618019104, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7829844951629639, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7850000262260437 + }, + "20": { + "covertype_test_loss": 0.5080295205116272, + "covertype_test_accuracy": 0.7906249761581421, + "covertype_test_precision": 0.7921261191368103, + "covertype_test_recall": 0.7906249761581421, + "covertype_test_f1-score": 0.7896103858947754, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7906249761581421 + }, + "50": { + "covertype_test_loss": 0.4953770339488983, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.795830249786377, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.790269672870636, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7919999957084656 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6189666390419006, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7572600841522217, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7520602941513062, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5591139197349548, + "lr": 0.0, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.7712348103523254, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7616881728172302, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7620000243186951 + }, + "5": { + "covertype_test_loss": 0.5399190187454224, + "covertype_test_accuracy": 0.769473671913147, + "covertype_test_precision": 0.7798372507095337, + "covertype_test_recall": 0.769473671913147, + "covertype_test_f1-score": 0.7695361375808716, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.769473671913147 + }, + "10": { + "covertype_test_loss": 0.5264890193939209, + "covertype_test_accuracy": 0.7711111307144165, + "covertype_test_precision": 0.781085729598999, + "covertype_test_recall": 0.7711111307144165, + "covertype_test_f1-score": 0.7710270285606384, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7711111307144165 + }, + "20": { + "covertype_test_loss": 0.5021880865097046, + "covertype_test_accuracy": 0.78125, + "covertype_test_precision": 0.7912687063217163, + "covertype_test_recall": 0.78125, + "covertype_test_f1-score": 0.7814000844955444, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.78125 + }, + "50": { + "covertype_test_loss": 0.4863908588886261, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7864413857460022, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7786012291908264, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5718711018562317, + "lr": 0.0, + "covertype_val_accuracy": 0.7777777910232544, + "covertype_val_precision": 0.768509030342102, + "covertype_val_recall": 0.7777777910232544, + "covertype_val_f1-score": 0.7723380327224731, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7777777910232544 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5653337836265564, + "lr": 0.0, + "covertype_test_accuracy": 0.7835000157356262, + "covertype_test_precision": 0.7818440794944763, + "covertype_test_recall": 0.7835000157356262, + "covertype_test_f1-score": 0.7822785377502441, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7835000157356262 + }, + "5": { + "covertype_test_loss": 0.5490744113922119, + "covertype_test_accuracy": 0.788947343826294, + "covertype_test_precision": 0.78752601146698, + "covertype_test_recall": 0.788947343826294, + "covertype_test_f1-score": 0.7875208258628845, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.788947343826294 + }, + "10": { + "covertype_test_loss": 0.5289233922958374, + "covertype_test_accuracy": 0.7938888669013977, + "covertype_test_precision": 0.7916457056999207, + "covertype_test_recall": 0.7938888669013977, + "covertype_test_f1-score": 0.7918096780776978, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7938888669013977 + }, + "20": { + "covertype_test_loss": 0.5024817585945129, + "covertype_test_accuracy": 0.7981250286102295, + "covertype_test_precision": 0.7968825101852417, + "covertype_test_recall": 0.7981250286102295, + "covertype_test_f1-score": 0.7973581552505493, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7981250286102295 + }, + "50": { + "covertype_test_loss": 0.49299541115760803, + "covertype_test_accuracy": 0.7960000038146973, + "covertype_test_precision": 0.7940694689750671, + "covertype_test_recall": 0.7960000038146973, + "covertype_test_f1-score": 0.7943715453147888, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7960000038146973 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.582497775554657, + "lr": 0.0, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7512993216514587, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7525808811187744, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5741672515869141, + "lr": 0.0, + "covertype_test_accuracy": 0.7710000276565552, + "covertype_test_precision": 0.7720524072647095, + "covertype_test_recall": 0.7710000276565552, + "covertype_test_f1-score": 0.7709807753562927, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7710000276565552 + }, + "5": { + "covertype_test_loss": 0.5461440086364746, + "covertype_test_accuracy": 0.777368426322937, + "covertype_test_precision": 0.7784808278083801, + "covertype_test_recall": 0.777368426322937, + "covertype_test_f1-score": 0.7772538661956787, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.777368426322937 + }, + "10": { + "covertype_test_loss": 0.5345019698143005, + "covertype_test_accuracy": 0.7827777862548828, + "covertype_test_precision": 0.782549262046814, + "covertype_test_recall": 0.7827777862548828, + "covertype_test_f1-score": 0.7820754051208496, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7827777862548828 + }, + "20": { + "covertype_test_loss": 0.516111433506012, + "covertype_test_accuracy": 0.7906249761581421, + "covertype_test_precision": 0.7895328998565674, + "covertype_test_recall": 0.7906249761581421, + "covertype_test_f1-score": 0.7899598479270935, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7906249761581421 + }, + "50": { + "covertype_test_loss": 0.5183899998664856, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7782437205314636, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7768072485923767, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.56721031665802, + "std": 0.00618133215896626, + "n": 5, + "ci95": 0.007673907164699312 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7753000140190125, + "std": 0.008764978363893103, + "n": 5, + "ci95": 0.010881413348342419 + }, + "covertype_test_precision": { + "mean": 0.777534031867981, + "std": 0.005456058152415381, + "n": 5, + "ci95": 0.006773504912869547 + }, + "covertype_test_recall": { + "mean": 0.7753000140190125, + "std": 0.008764978363893103, + "n": 5, + "ci95": 0.010881413348342419 + }, + "covertype_test_f1-score": { + "mean": 0.7746033668518066, + "std": 0.008428880383928016, + "n": 5, + "ci95": 0.010464159489438586 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7753000140190125, + "std": 0.008764978363893103, + "n": 5, + "ci95": 0.010881413348342419 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5476286888122559, + "std": 0.007158138791875308, + "n": 5, + "ci95": 0.008886578353697532 + }, + "covertype_test_accuracy": { + "mean": 0.7819999933242798, + "std": 0.008691386214716079, + "n": 5, + "ci95": 0.010790051275198364 + }, + "covertype_test_precision": { + "mean": 0.7842367887496948, + "std": 0.005580039739204145, + "n": 5, + "ci95": 0.006927423706210721 + }, + "covertype_test_recall": { + "mean": 0.7819999933242798, + "std": 0.008691386214716079, + "n": 5, + "ci95": 0.010790051275198364 + }, + "covertype_test_f1-score": { + "mean": 0.7812351942062378, + "std": 0.008254160085531237, + "n": 5, + "ci95": 0.010247250364479077 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7819999933242798, + "std": 0.008691386214716079, + "n": 5, + "ci95": 0.010790051275198364 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5280352354049682, + "std": 0.0075479030091043665, + "n": 5, + "ci95": 0.009370456964685766 + }, + "covertype_test_accuracy": { + "mean": 0.7856666684150696, + "std": 0.00982405084760871, + "n": 5, + "ci95": 0.012196214706967396 + }, + "covertype_test_precision": { + "mean": 0.7869386315345764, + "std": 0.006164383764293533, + "n": 5, + "ci95": 0.007652866326905061 + }, + "covertype_test_recall": { + "mean": 0.7856666684150696, + "std": 0.00982405084760871, + "n": 5, + "ci95": 0.012196214706967396 + }, + "covertype_test_f1-score": { + "mean": 0.784506356716156, + "std": 0.009298512947065171, + "n": 5, + "ci95": 0.011543777828219151 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7856666684150696, + "std": 0.00982405084760871, + "n": 5, + "ci95": 0.012196214706967396 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5046259760856628, + "std": 0.008066487789578788, + "n": 5, + "ci95": 0.010014261788636888 + }, + "covertype_test_accuracy": { + "mean": 0.7929999947547912, + "std": 0.008732129709207417, + "n": 5, + "ci95": 0.010840632895187583 + }, + "covertype_test_precision": { + "mean": 0.794747817516327, + "std": 0.005809930975700663, + "n": 5, + "ci95": 0.00721282561658909 + }, + "covertype_test_recall": { + "mean": 0.7929999947547912, + "std": 0.008732129709207417, + "n": 5, + "ci95": 0.010840632895187583 + }, + "covertype_test_f1-score": { + "mean": 0.7923860669136047, + "std": 0.008437986323745962, + "n": 5, + "ci95": 0.010475464194478404 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7929999947547912, + "std": 0.008732129709207417, + "n": 5, + "ci95": 0.010840632895187583 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4972702205181122, + "std": 0.01227648523471316, + "n": 5, + "ci95": 0.01524082601892497 + }, + "covertype_test_accuracy": { + "mean": 0.7881999969482422, + "std": 0.008526441710055668, + "n": 5, + "ci95": 0.010585278455434057 + }, + "covertype_test_precision": { + "mean": 0.7899852156639099, + "std": 0.0075821192022192, + "n": 5, + "ci95": 0.009412935168856008 + }, + "covertype_test_recall": { + "mean": 0.7881999969482422, + "std": 0.008526441710055668, + "n": 5, + "ci95": 0.010585278455434057 + }, + "covertype_test_f1-score": { + "mean": 0.7868053078651428, + "std": 0.008484526967722365, + "n": 5, + "ci95": 0.010533242772311692 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7881999969482422, + "std": 0.008526441710055668, + "n": 5, + "ci95": 0.010585278455434057 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..ded45823b8ee0fcb82f5b86e3036142e50530624 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9075480f51425e994aebdc7e93654d4a28353067ebd73d586b093518db5ad27a +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..b8d97cc90cc25a08b7485d1a0d47365f7755ab3d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:dde7e64eaa8f085448ada4d26479888d3f6b9cf0d9c841c7f1f09be04ab9605f +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..65b72674a1afbe154cd6a8592ee0701e3e510662 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ff0db5aa55620e0370c4b3ed9cf8d68b4f79bf2c9d3bac5e78adae8b80910162 +size 11498064 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..94c2370c8933865187e4579eb5824d8c1a26fffa --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.00025_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_172357/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.0 +sw_s_y_weight: 0.0 +sw_seed: 0 +sw_z_weight: 0.0 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.00025 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..52ec86a9ed16ac5574998de13315037d32f4fcec --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T18:36:49.653045+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0001, + "sw_z_weight": 0.0001, + "sw_s_y_weight": 0.0001, + "lambda_joint": 0.0005, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..7129a91c994da63033fff92bd27daa6572aeea34 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0001, + "sw_z_weight": 0.0001, + "sw_s_y_weight": 0.0001, + "lambda_joint": 0.0005, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.0005", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.0001", + "--sw-z-end-weight", + "0.0001", + "--sw-s-y-end-weight", + "0.0001", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..12dcbcf55832bc7439325bf9e4ac2e9659a81bcb --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.0005, + "s_x": 0.0001, + "z": 0.0001, + "s_y": 0.0001 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.0005", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.0001", + "--sw_z_weight", + "0.0001", + "--sw_s_y_weight", + "0.0001", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..5637db618339161511ec6f5a30d6ef4ec41fd9fb --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpcnqezekv", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpcnqezekv/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.7893996238708496, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7167167067527771, + "covertype_val_precision": 0.7089285850524902, + "covertype_val_recall": 0.7167167067527771, + "covertype_val_f1-score": 0.7038423418998718, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7167167067527771 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7385111451148987, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7089999914169312, + "covertype_test_precision": 0.7083888053894043, + "covertype_test_recall": 0.7089999914169312, + "covertype_test_f1-score": 0.7002952694892883, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7089999914169312 + }, + "5": { + "covertype_test_loss": 0.6540772914886475, + "covertype_test_accuracy": 0.7152631282806396, + "covertype_test_precision": 0.713685154914856, + "covertype_test_recall": 0.7152631282806396, + "covertype_test_f1-score": 0.7072995901107788, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7152631282806396 + }, + "10": { + "covertype_test_loss": 0.6400256752967834, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.7206317186355591, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7113774418830872, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7200000286102295 + }, + "20": { + "covertype_test_loss": 0.621440589427948, + "covertype_test_accuracy": 0.7225000262260437, + "covertype_test_precision": 0.7260915040969849, + "covertype_test_recall": 0.7225000262260437, + "covertype_test_f1-score": 0.7159878611564636, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7225000262260437 + }, + "50": { + "covertype_test_loss": 0.5813104510307312, + "covertype_test_accuracy": 0.7350000143051147, + "covertype_test_precision": 0.7337859869003296, + "covertype_test_recall": 0.7350000143051147, + "covertype_test_f1-score": 0.729075014591217, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7350000143051147 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.645370602607727, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7307307124137878, + "covertype_val_precision": 0.7181012034416199, + "covertype_val_recall": 0.7307307124137878, + "covertype_val_f1-score": 0.7138846516609192, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7307307124137878 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6408055424690247, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7214999794960022, + "covertype_test_precision": 0.6973447203636169, + "covertype_test_recall": 0.7214999794960022, + "covertype_test_f1-score": 0.7046619057655334, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7214999794960022 + }, + "5": { + "covertype_test_loss": 0.6244451999664307, + "covertype_test_accuracy": 0.7289473414421082, + "covertype_test_precision": 0.7109084725379944, + "covertype_test_recall": 0.7289473414421082, + "covertype_test_f1-score": 0.7160910367965698, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7289473414421082 + }, + "10": { + "covertype_test_loss": 0.6092090010643005, + "covertype_test_accuracy": 0.7355555295944214, + "covertype_test_precision": 0.7258244752883911, + "covertype_test_recall": 0.7355555295944214, + "covertype_test_f1-score": 0.7248952984809875, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7355555295944214 + }, + "20": { + "covertype_test_loss": 0.5941547155380249, + "covertype_test_accuracy": 0.7381250262260437, + "covertype_test_precision": 0.721593976020813, + "covertype_test_recall": 0.7381250262260437, + "covertype_test_f1-score": 0.7293301224708557, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7381250262260437 + }, + "50": { + "covertype_test_loss": 0.5606235265731812, + "covertype_test_accuracy": 0.7590000033378601, + "covertype_test_precision": 0.7458400726318359, + "covertype_test_recall": 0.7590000033378601, + "covertype_test_f1-score": 0.7510200142860413, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7590000033378601 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.627731204032898, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7267267107963562, + "covertype_val_precision": 0.7213388681411743, + "covertype_val_recall": 0.7267267107963562, + "covertype_val_f1-score": 0.7216249704360962, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7267267107963562 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6235979795455933, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7235000133514404, + "covertype_test_precision": 0.7135363817214966, + "covertype_test_recall": 0.7235000133514404, + "covertype_test_f1-score": 0.7172740697860718, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7235000133514404 + }, + "5": { + "covertype_test_loss": 0.6107153296470642, + "covertype_test_accuracy": 0.7321052551269531, + "covertype_test_precision": 0.7231185436248779, + "covertype_test_recall": 0.7321052551269531, + "covertype_test_f1-score": 0.7253868579864502, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7321052551269531 + }, + "10": { + "covertype_test_loss": 0.5959941148757935, + "covertype_test_accuracy": 0.7383333444595337, + "covertype_test_precision": 0.7262266874313354, + "covertype_test_recall": 0.7383333444595337, + "covertype_test_f1-score": 0.7309557795524597, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7383333444595337 + }, + "20": { + "covertype_test_loss": 0.5814982056617737, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7289366722106934, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7330435514450073, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7400000095367432 + }, + "50": { + "covertype_test_loss": 0.5500190854072571, + "covertype_test_accuracy": 0.7580000162124634, + "covertype_test_precision": 0.7452689409255981, + "covertype_test_recall": 0.7580000162124634, + "covertype_test_f1-score": 0.7498449087142944, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7580000162124634 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6645995378494263, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7137137055397034, + "covertype_val_precision": 0.6997643709182739, + "covertype_val_recall": 0.7137137055397034, + "covertype_val_f1-score": 0.7039244771003723, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7137137055397034 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6686102747917175, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7164999842643738, + "covertype_test_precision": 0.6988664865493774, + "covertype_test_recall": 0.7164999842643738, + "covertype_test_f1-score": 0.7058131098747253, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7164999842643738 + }, + "5": { + "covertype_test_loss": 0.6506876945495605, + "covertype_test_accuracy": 0.7278947234153748, + "covertype_test_precision": 0.7123490571975708, + "covertype_test_recall": 0.7278947234153748, + "covertype_test_f1-score": 0.7187193036079407, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7278947234153748 + }, + "10": { + "covertype_test_loss": 0.6390642523765564, + "covertype_test_accuracy": 0.730555534362793, + "covertype_test_precision": 0.7121130228042603, + "covertype_test_recall": 0.730555534362793, + "covertype_test_f1-score": 0.7194385528564453, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.730555534362793 + }, + "20": { + "covertype_test_loss": 0.6170563697814941, + "covertype_test_accuracy": 0.7337499856948853, + "covertype_test_precision": 0.7195422649383545, + "covertype_test_recall": 0.7337499856948853, + "covertype_test_f1-score": 0.7255575060844421, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7337499856948853 + }, + "50": { + "covertype_test_loss": 0.5880972743034363, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.73878413438797, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7442426681518555, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7519999742507935 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.7002599239349365, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7307307124137878, + "covertype_val_precision": 0.7363804578781128, + "covertype_val_recall": 0.7307307124137878, + "covertype_val_f1-score": 0.7134114503860474, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7307307124137878 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6675416827201843, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7064999938011169, + "covertype_test_precision": 0.7062053680419922, + "covertype_test_recall": 0.7064999938011169, + "covertype_test_f1-score": 0.6845242381095886, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7064999938011169 + }, + "5": { + "covertype_test_loss": 0.6524997353553772, + "covertype_test_accuracy": 0.7142105102539062, + "covertype_test_precision": 0.7125250101089478, + "covertype_test_recall": 0.7142105102539062, + "covertype_test_f1-score": 0.6954061388969421, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7142105102539062 + }, + "10": { + "covertype_test_loss": 0.6398353576660156, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.716366171836853, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7026609182357788, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7200000286102295 + }, + "20": { + "covertype_test_loss": 0.6269324421882629, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.7177575826644897, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7028337121009827, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7200000286102295 + }, + "50": { + "covertype_test_loss": 0.6168663501739502, + "covertype_test_accuracy": 0.7229999899864197, + "covertype_test_precision": 0.7319953441619873, + "covertype_test_recall": 0.7229999899864197, + "covertype_test_f1-score": 0.7022356390953064, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7229999899864197 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6678133249282837, + "std": 0.04382723975563103, + "n": 5, + "ci95": 0.054409981622145547 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7153999924659729, + "std": 0.007486657327042862, + "n": 5, + "ci95": 0.009294422597612168 + }, + "covertype_test_precision": { + "mean": 0.7048683524131775, + "std": 0.006744319185500131, + "n": 5, + "ci95": 0.008372835820439687 + }, + "covertype_test_recall": { + "mean": 0.7153999924659729, + "std": 0.007486657327042862, + "n": 5, + "ci95": 0.009294422597612168 + }, + "covertype_test_f1-score": { + "mean": 0.7025137186050415, + "std": 0.011852337140726464, + "n": 5, + "ci95": 0.014714261030402754 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7153999924659729, + "std": 0.007486657327042862, + "n": 5, + "ci95": 0.009294422597612168 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.638485050201416, + "std": 0.019727573923944728, + "n": 5, + "ci95": 0.02449109139969145 + }, + "covertype_test_accuracy": { + "mean": 0.7236841917037964, + "std": 0.008321787383575528, + "n": 5, + "ci95": 0.010331207284062918 + }, + "covertype_test_precision": { + "mean": 0.7145172476768493, + "std": 0.004908359930627158, + "n": 5, + "ci95": 0.006093556772212338 + }, + "covertype_test_recall": { + "mean": 0.7236841917037964, + "std": 0.008321787383575528, + "n": 5, + "ci95": 0.010331207284062918 + }, + "covertype_test_f1-score": { + "mean": 0.7125805854797364, + "std": 0.011585101118827362, + "n": 5, + "ci95": 0.014382496878213882 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7236841917037964, + "std": 0.008321787383575528, + "n": 5, + "ci95": 0.010331207284062918 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6248256802558899, + "std": 0.020821905727349047, + "n": 5, + "ci95": 0.025849665967557278 + }, + "covertype_test_accuracy": { + "mean": 0.7288888931274414, + "std": 0.008579673953088184, + "n": 5, + "ci95": 0.010651364418895462 + }, + "covertype_test_precision": { + "mean": 0.7202324151992798, + "std": 0.006087574423944643, + "n": 5, + "ci95": 0.0075575102237122925 + }, + "covertype_test_recall": { + "mean": 0.7288888931274414, + "std": 0.008579673953088184, + "n": 5, + "ci95": 0.010651364418895462 + }, + "covertype_test_f1-score": { + "mean": 0.7178655982017517, + "std": 0.011141388888275094, + "n": 5, + "ci95": 0.013831643700042463 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7288888931274414, + "std": 0.008579673953088184, + "n": 5, + "ci95": 0.010651364418895462 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6082164645195007, + "std": 0.019460905461587512, + "n": 5, + "ci95": 0.02416003185277582 + }, + "covertype_test_accuracy": { + "mean": 0.7308750152587891, + "std": 0.009117283182387569, + "n": 5, + "ci95": 0.011318787429086678 + }, + "covertype_test_precision": { + "mean": 0.7227843999862671, + "std": 0.004636400338504129, + "n": 5, + "ci95": 0.0057559284731935985 + }, + "covertype_test_recall": { + "mean": 0.7308750152587891, + "std": 0.009117283182387569, + "n": 5, + "ci95": 0.011318787429086678 + }, + "covertype_test_f1-score": { + "mean": 0.7213505506515503, + "std": 0.012142179134303679, + "n": 5, + "ci95": 0.015074089703889685 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7308750152587891, + "std": 0.009117283182387569, + "n": 5, + "ci95": 0.011318787429086678 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5793833374977112, + "std": 0.025975048158118342, + "n": 5, + "ci95": 0.03224711163189282 + }, + "covertype_test_accuracy": { + "mean": 0.7453999996185303, + "std": 0.015789239298629926, + "n": 5, + "ci95": 0.019601787036011876 + }, + "covertype_test_precision": { + "mean": 0.7391348958015442, + "std": 0.006369712778572833, + "n": 5, + "ci95": 0.007907775099525054 + }, + "covertype_test_recall": { + "mean": 0.7453999996185303, + "std": 0.015789239298629926, + "n": 5, + "ci95": 0.019601787036011876 + }, + "covertype_test_f1-score": { + "mean": 0.7352836489677429, + "std": 0.02043676589463718, + "n": 5, + "ci95": 0.02537152836782134 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7453999996185303, + "std": 0.015789239298629926, + "n": 5, + "ci95": 0.019601787036011876 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..0b58a307f5123c758a6c7564245bb772b2b2f253 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmph_as4mh0", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmph_as4mh0/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5907860994338989, + "lr": 0.0, + "covertype_val_accuracy": 0.7627627849578857, + "covertype_val_precision": 0.760730504989624, + "covertype_val_recall": 0.7627627849578857, + "covertype_val_f1-score": 0.7611578106880188, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7627627849578857 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5525321364402771, + "lr": 0.0, + "covertype_test_accuracy": 0.7764999866485596, + "covertype_test_precision": 0.7768762111663818, + "covertype_test_recall": 0.7764999866485596, + "covertype_test_f1-score": 0.7762581706047058, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7764999866485596 + }, + "5": { + "covertype_test_loss": 0.5355276465415955, + "covertype_test_accuracy": 0.7831578850746155, + "covertype_test_precision": 0.7827749252319336, + "covertype_test_recall": 0.7831578850746155, + "covertype_test_f1-score": 0.7822215557098389, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7831578850746155 + }, + "10": { + "covertype_test_loss": 0.507774829864502, + "covertype_test_accuracy": 0.7894444465637207, + "covertype_test_precision": 0.7880474925041199, + "covertype_test_recall": 0.7894444465637207, + "covertype_test_f1-score": 0.7881786823272705, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7894444465637207 + }, + "20": { + "covertype_test_loss": 0.4935220777988434, + "covertype_test_accuracy": 0.793749988079071, + "covertype_test_precision": 0.793194055557251, + "covertype_test_recall": 0.793749988079071, + "covertype_test_f1-score": 0.7931838631629944, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.793749988079071 + }, + "50": { + "covertype_test_loss": 0.49378931522369385, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7914059162139893, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.788479745388031, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7900000214576721 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5975398421287537, + "lr": 0.0, + "covertype_val_accuracy": 0.7647647857666016, + "covertype_val_precision": 0.7540377378463745, + "covertype_val_recall": 0.7647647857666016, + "covertype_val_f1-score": 0.7571304440498352, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7647647857666016 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5700539350509644, + "lr": 0.0, + "covertype_test_accuracy": 0.7785000205039978, + "covertype_test_precision": 0.7787075638771057, + "covertype_test_recall": 0.7785000205039978, + "covertype_test_f1-score": 0.776898205280304, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7785000205039978 + }, + "5": { + "covertype_test_loss": 0.5498360991477966, + "covertype_test_accuracy": 0.7831578850746155, + "covertype_test_precision": 0.7845884561538696, + "covertype_test_recall": 0.7831578850746155, + "covertype_test_f1-score": 0.782710611820221, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7831578850746155 + }, + "10": { + "covertype_test_loss": 0.52538001537323, + "covertype_test_accuracy": 0.7877777814865112, + "covertype_test_precision": 0.7872141003608704, + "covertype_test_recall": 0.7877777814865112, + "covertype_test_f1-score": 0.7864975929260254, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7877777814865112 + }, + "20": { + "covertype_test_loss": 0.5050737261772156, + "covertype_test_accuracy": 0.793749988079071, + "covertype_test_precision": 0.7949174046516418, + "covertype_test_recall": 0.793749988079071, + "covertype_test_f1-score": 0.7932441234588623, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.793749988079071 + }, + "50": { + "covertype_test_loss": 0.5124112963676453, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.7852336764335632, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7817875742912292, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7839999794960022 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6093699336051941, + "lr": 0.0, + "covertype_val_accuracy": 0.7627627849578857, + "covertype_val_precision": 0.7632706165313721, + "covertype_val_recall": 0.7627627849578857, + "covertype_val_f1-score": 0.7600938677787781, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7627627849578857 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5637195110321045, + "lr": 0.0, + "covertype_test_accuracy": 0.7710000276565552, + "covertype_test_precision": 0.7780336737632751, + "covertype_test_recall": 0.7710000276565552, + "covertype_test_f1-score": 0.7712076902389526, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7710000276565552 + }, + "5": { + "covertype_test_loss": 0.537979245185852, + "covertype_test_accuracy": 0.7778947353363037, + "covertype_test_precision": 0.7875906825065613, + "covertype_test_recall": 0.7778947353363037, + "covertype_test_f1-score": 0.7786920666694641, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7778947353363037 + }, + "10": { + "covertype_test_loss": 0.5147073268890381, + "covertype_test_accuracy": 0.7822222113609314, + "covertype_test_precision": 0.7905579209327698, + "covertype_test_recall": 0.7822222113609314, + "covertype_test_f1-score": 0.782843828201294, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7822222113609314 + }, + "20": { + "covertype_test_loss": 0.5030640959739685, + "covertype_test_accuracy": 0.7893750071525574, + "covertype_test_precision": 0.7976861000061035, + "covertype_test_recall": 0.7893750071525574, + "covertype_test_f1-score": 0.7901713252067566, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7893750071525574 + }, + "50": { + "covertype_test_loss": 0.506334125995636, + "covertype_test_accuracy": 0.7770000100135803, + "covertype_test_precision": 0.7816909551620483, + "covertype_test_recall": 0.7770000100135803, + "covertype_test_f1-score": 0.7771329879760742, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7770000100135803 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5926787853240967, + "lr": 0.0, + "covertype_val_accuracy": 0.7667667865753174, + "covertype_val_precision": 0.7591004371643066, + "covertype_val_recall": 0.7667667865753174, + "covertype_val_f1-score": 0.7621412873268127, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7667667865753174 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5624335408210754, + "lr": 0.0, + "covertype_test_accuracy": 0.7774999737739563, + "covertype_test_precision": 0.7761732339859009, + "covertype_test_recall": 0.7774999737739563, + "covertype_test_f1-score": 0.7764142751693726, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7774999737739563 + }, + "5": { + "covertype_test_loss": 0.5357917547225952, + "covertype_test_accuracy": 0.7842105031013489, + "covertype_test_precision": 0.7836454510688782, + "covertype_test_recall": 0.7842105031013489, + "covertype_test_f1-score": 0.7828433513641357, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7842105031013489 + }, + "10": { + "covertype_test_loss": 0.5081129670143127, + "covertype_test_accuracy": 0.7894444465637207, + "covertype_test_precision": 0.7883443832397461, + "covertype_test_recall": 0.7894444465637207, + "covertype_test_f1-score": 0.787958562374115, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7894444465637207 + }, + "20": { + "covertype_test_loss": 0.4926634132862091, + "covertype_test_accuracy": 0.7875000238418579, + "covertype_test_precision": 0.7875930666923523, + "covertype_test_recall": 0.7875000238418579, + "covertype_test_f1-score": 0.7868322134017944, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7875000238418579 + }, + "50": { + "covertype_test_loss": 0.48738935589790344, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.7856788039207458, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7833950519561768, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7839999794960022 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5806649923324585, + "lr": 0.0, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7499950528144836, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7526796460151672, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5818069577217102, + "lr": 0.0, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7879265546798706, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7868545055389404, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7870000004768372 + }, + "5": { + "covertype_test_loss": 0.5501125454902649, + "covertype_test_accuracy": 0.7931578755378723, + "covertype_test_precision": 0.7946833372116089, + "covertype_test_recall": 0.7931578755378723, + "covertype_test_f1-score": 0.793264627456665, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7931578755378723 + }, + "10": { + "covertype_test_loss": 0.5260933637619019, + "covertype_test_accuracy": 0.7994444370269775, + "covertype_test_precision": 0.7994897365570068, + "covertype_test_recall": 0.7994444370269775, + "covertype_test_f1-score": 0.7993005514144897, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7994444370269775 + }, + "20": { + "covertype_test_loss": 0.515265166759491, + "covertype_test_accuracy": 0.8018749952316284, + "covertype_test_precision": 0.8030235171318054, + "covertype_test_recall": 0.8018749952316284, + "covertype_test_f1-score": 0.802354633808136, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8018749952316284 + }, + "50": { + "covertype_test_loss": 0.5270320773124695, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7907025218009949, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7901797294616699, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7910000085830688 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5661092162132263, + "std": 0.010788167948940105, + "n": 5, + "ci95": 0.01339313228739288 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7781000018119812, + "std": 0.005759767928608607, + "n": 5, + "ci95": 0.007150549952285159 + }, + "covertype_test_precision": { + "mean": 0.7795434474945069, + "std": 0.004788713108610556, + "n": 5, + "ci95": 0.005945019437363752 + }, + "covertype_test_recall": { + "mean": 0.7781000018119812, + "std": 0.005759767928608607, + "n": 5, + "ci95": 0.007150549952285159 + }, + "covertype_test_f1-score": { + "mean": 0.777526569366455, + "std": 0.005704811607108112, + "n": 5, + "ci95": 0.007082323605850039 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7781000018119812, + "std": 0.005759767928608607, + "n": 5, + "ci95": 0.007150549952285159 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5418494582176209, + "std": 0.007478379972208901, + "n": 5, + "ci95": 0.009284146551780696 + }, + "covertype_test_accuracy": { + "mean": 0.7843157768249511, + "std": 0.005525056393735853, + "n": 5, + "ci95": 0.0068591638104670135 + }, + "covertype_test_precision": { + "mean": 0.7866565704345703, + "std": 0.0048402648751810695, + "n": 5, + "ci95": 0.006009019148213222 + }, + "covertype_test_recall": { + "mean": 0.7843157768249511, + "std": 0.005525056393735853, + "n": 5, + "ci95": 0.0068591638104670135 + }, + "covertype_test_f1-score": { + "mean": 0.783946442604065, + "std": 0.005480792785198053, + "n": 5, + "ci95": 0.006804212092300412 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7843157768249511, + "std": 0.005525056393735853, + "n": 5, + "ci95": 0.0068591638104670135 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5164137005805969, + "std": 0.008951740842249414, + "n": 5, + "ci95": 0.0111132724175362 + }, + "covertype_test_accuracy": { + "mean": 0.7896666646003723, + "std": 0.006218749046033292, + "n": 5, + "ci95": 0.0077203589181984245 + }, + "covertype_test_precision": { + "mean": 0.7907307267189025, + "std": 0.005050028642929373, + "n": 5, + "ci95": 0.006269433511787437 + }, + "covertype_test_recall": { + "mean": 0.7896666646003723, + "std": 0.006218749046033292, + "n": 5, + "ci95": 0.0077203589181984245 + }, + "covertype_test_f1-score": { + "mean": 0.7889558434486389, + "std": 0.006164642282091778, + "n": 5, + "ci95": 0.007653187267688235 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7896666646003723, + "std": 0.006218749046033292, + "n": 5, + "ci95": 0.0077203589181984245 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5019176959991455, + "std": 0.009294593705235828, + "n": 5, + "ci95": 0.011538912226892297 + }, + "covertype_test_accuracy": { + "mean": 0.7932500004768371, + "std": 0.005544553956157612, + "n": 5, + "ci95": 0.006883369350650691 + }, + "covertype_test_precision": { + "mean": 0.7952828288078309, + "std": 0.005686011741112501, + "n": 5, + "ci95": 0.007058984231318962 + }, + "covertype_test_recall": { + "mean": 0.7932500004768371, + "std": 0.005544553956157612, + "n": 5, + "ci95": 0.006883369350650691 + }, + "covertype_test_f1-score": { + "mean": 0.7931572318077087, + "std": 0.005777585114265995, + "n": 5, + "ci95": 0.007172669363628015 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7932500004768371, + "std": 0.005544553956157612, + "n": 5, + "ci95": 0.006883369350650691 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5053912341594696, + "std": 0.01562984768584348, + "n": 5, + "ci95": 0.01940390793683086 + }, + "covertype_test_accuracy": { + "mean": 0.7851999998092651, + "std": 0.005630280627002489, + "n": 5, + "ci95": 0.006989796007022499 + }, + "covertype_test_precision": { + "mean": 0.7869423747062683, + "std": 0.004066803938958548, + "n": 5, + "ci95": 0.005048794512576481 + }, + "covertype_test_recall": { + "mean": 0.7851999998092651, + "std": 0.005630280627002489, + "n": 5, + "ci95": 0.006989796007022499 + }, + "covertype_test_f1-score": { + "mean": 0.7841950178146362, + "std": 0.005255560365227133, + "n": 5, + "ci95": 0.006524593939305627 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7851999998092651, + "std": 0.005630280627002489, + "n": 5, + "ci95": 0.006989796007022499 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..413b76656262dfa9dc4562bdc3c5e97ad2ef4566 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:6886f9600bd2203f986cdf23294e2bf235d036fef589774cdc8113a2611d1eb5 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..7a5e67e9e189eba327644ab52548f9f717de4058 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:324cb7467885d5572fb5f095fa4a82ec688d18a31bad7b67507c4bb06dee478a +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..08cee2f9099e283f1a5821688f867c00091f93b0 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1bedeff9113b1e5b695323fde2d0960b12a5b926b6aa030a80aeca062f45f3a3 +size 11498064 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..f92cb45926ec2bcec84414d0e7bf3b7216e9eb66 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_181120/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.0001 +sw_s_y_weight: 0.0001 +sw_seed: 0 +sw_z_weight: 0.0001 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.0005 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..a4d50e9adbd02c6251aa3374aaebdaa88d44728d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T18:37:29.811635+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.00025, + "sw_z_weight": 0.00025, + "sw_s_y_weight": 0.00025, + "lambda_joint": 0.0005, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..6202b09869ab94fba95bf3a1468cdab5ea50419a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.00025, + "sw_z_weight": 0.00025, + "sw_s_y_weight": 0.00025, + "lambda_joint": 0.0005, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.0005", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.00025", + "--sw-z-end-weight", + "0.00025", + "--sw-s-y-end-weight", + "0.00025", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..1982ce1f92b46774b212ca726d9615546d3ef8f7 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.0005, + "s_x": 0.00025, + "z": 0.00025, + "s_y": 0.00025 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.0005", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00025", + "--sw_z_weight", + "0.00025", + "--sw_s_y_weight", + "0.00025", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/autoint_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/autoint_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..907109220a13c07e1e55c3f3d720b8c5266826c6 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/autoint_covertype_downstream_results.json @@ -0,0 +1,568 @@ +{ + "dataset": "covertype", + "model": "autoint", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpul0_vav_", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "autoint", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpul0_vav_/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "activation": "relu", + "initialization": "kaiming", + "n_layers": 3, + "d_token": 128, + "n_heads": 2, + "attention_dropout": 0.1, + "residual_dropout": 0.1, + "prenormalization": false, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6285074353218079, + "lr": 0.0, + "covertype_val_accuracy": 0.7547547817230225, + "covertype_val_precision": 0.7510283589363098, + "covertype_val_recall": 0.7547547817230225, + "covertype_val_f1-score": 0.7509722709655762, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7547547817230225 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6098477244377136, + "lr": 0.0, + "covertype_test_accuracy": 0.7555000185966492, + "covertype_test_precision": 0.7576905488967896, + "covertype_test_recall": 0.7555000185966492, + "covertype_test_f1-score": 0.7551952600479126, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7555000185966492 + }, + "5": { + "covertype_test_loss": 0.587514340877533, + "covertype_test_accuracy": 0.7626315951347351, + "covertype_test_precision": 0.7639532685279846, + "covertype_test_recall": 0.7626315951347351, + "covertype_test_f1-score": 0.7619973421096802, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7626315951347351 + }, + "10": { + "covertype_test_loss": 0.5674516558647156, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.769973635673523, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7688053846359253, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7699999809265137 + }, + "20": { + "covertype_test_loss": 0.5553901791572571, + "covertype_test_accuracy": 0.7743750214576721, + "covertype_test_precision": 0.7766773700714111, + "covertype_test_recall": 0.7743750214576721, + "covertype_test_f1-score": 0.7741525173187256, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7743750214576721 + }, + "50": { + "covertype_test_loss": 0.5342552661895752, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7824702262878418, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7812483310699463, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.623641312122345, + "lr": 0.0, + "covertype_val_accuracy": 0.7417417168617249, + "covertype_val_precision": 0.7383483648300171, + "covertype_val_recall": 0.7417417168617249, + "covertype_val_f1-score": 0.739345908164978, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7417417168617249 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5898716449737549, + "lr": 0.0, + "covertype_test_accuracy": 0.753000020980835, + "covertype_test_precision": 0.7531353831291199, + "covertype_test_recall": 0.753000020980835, + "covertype_test_f1-score": 0.7511872053146362, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.753000020980835 + }, + "5": { + "covertype_test_loss": 0.564622163772583, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7596344947814941, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7581270933151245, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7599999904632568 + }, + "10": { + "covertype_test_loss": 0.5417672991752625, + "covertype_test_accuracy": 0.7644444704055786, + "covertype_test_precision": 0.7629455924034119, + "covertype_test_recall": 0.7644444704055786, + "covertype_test_f1-score": 0.7619919180870056, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7644444704055786 + }, + "20": { + "covertype_test_loss": 0.5276535153388977, + "covertype_test_accuracy": 0.7674999833106995, + "covertype_test_precision": 0.767260730266571, + "covertype_test_recall": 0.7674999833106995, + "covertype_test_f1-score": 0.7657222747802734, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7674999833106995 + }, + "50": { + "covertype_test_loss": 0.5171384215354919, + "covertype_test_accuracy": 0.7710000276565552, + "covertype_test_precision": 0.7718110680580139, + "covertype_test_recall": 0.7710000276565552, + "covertype_test_f1-score": 0.7699072360992432, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7710000276565552 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.634921133518219, + "lr": 1.5708421415183693e-05, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.7349523901939392, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.7358585596084595, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6037285923957825, + "lr": 1.5708415958215483e-05, + "covertype_test_accuracy": 0.7599999904632568, + "covertype_test_precision": 0.7598186135292053, + "covertype_test_recall": 0.7599999904632568, + "covertype_test_f1-score": 0.7590078115463257, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7599999904632568 + }, + "5": { + "covertype_test_loss": 0.5912374258041382, + "covertype_test_accuracy": 0.7647368311882019, + "covertype_test_precision": 0.7637476921081543, + "covertype_test_recall": 0.7647368311882019, + "covertype_test_f1-score": 0.7636576294898987, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7647368311882019 + }, + "10": { + "covertype_test_loss": 0.5709209442138672, + "covertype_test_accuracy": 0.7716666460037231, + "covertype_test_precision": 0.7689209580421448, + "covertype_test_recall": 0.7716666460037231, + "covertype_test_f1-score": 0.769795298576355, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7716666460037231 + }, + "20": { + "covertype_test_loss": 0.5529384613037109, + "covertype_test_accuracy": 0.7774999737739563, + "covertype_test_precision": 0.7766427993774414, + "covertype_test_recall": 0.7774999737739563, + "covertype_test_f1-score": 0.7761504650115967, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7774999737739563 + }, + "50": { + "covertype_test_loss": 0.5485958456993103, + "covertype_test_accuracy": 0.7720000147819519, + "covertype_test_precision": 0.7710564732551575, + "covertype_test_recall": 0.7720000147819519, + "covertype_test_f1-score": 0.7696234583854675, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7720000147819519 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6048365235328674, + "lr": 0.0, + "covertype_val_accuracy": 0.7587587833404541, + "covertype_val_precision": 0.7583926916122437, + "covertype_val_recall": 0.7587587833404541, + "covertype_val_f1-score": 0.7552826404571533, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7587587833404541 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5834478139877319, + "lr": 0.0, + "covertype_test_accuracy": 0.7555000185966492, + "covertype_test_precision": 0.757082998752594, + "covertype_test_recall": 0.7555000185966492, + "covertype_test_f1-score": 0.7551647424697876, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7555000185966492 + }, + "5": { + "covertype_test_loss": 0.5629408955574036, + "covertype_test_accuracy": 0.7626315951347351, + "covertype_test_precision": 0.7656031847000122, + "covertype_test_recall": 0.7626315951347351, + "covertype_test_f1-score": 0.7627432942390442, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7626315951347351 + }, + "10": { + "covertype_test_loss": 0.5428069233894348, + "covertype_test_accuracy": 0.7705555558204651, + "covertype_test_precision": 0.7721731662750244, + "covertype_test_recall": 0.7705555558204651, + "covertype_test_f1-score": 0.7700539231300354, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7705555558204651 + }, + "20": { + "covertype_test_loss": 0.5295331478118896, + "covertype_test_accuracy": 0.7762500047683716, + "covertype_test_precision": 0.7768494486808777, + "covertype_test_recall": 0.7762500047683716, + "covertype_test_f1-score": 0.7758196592330933, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7762500047683716 + }, + "50": { + "covertype_test_loss": 0.5271070003509521, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.7743270397186279, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.7742701768875122, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7760000228881836 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5986955165863037, + "lr": 9.549149399390444e-05, + "covertype_val_accuracy": 0.7517517805099487, + "covertype_val_precision": 0.7482441663742065, + "covertype_val_recall": 0.7517517805099487, + "covertype_val_f1-score": 0.7474950551986694, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7517517805099487 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6113073229789734, + "lr": 9.549151582177728e-05, + "covertype_test_accuracy": 0.746999979019165, + "covertype_test_precision": 0.7468841671943665, + "covertype_test_recall": 0.746999979019165, + "covertype_test_f1-score": 0.7450278401374817, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.746999979019165 + }, + "5": { + "covertype_test_loss": 0.5870016813278198, + "covertype_test_accuracy": 0.7552631497383118, + "covertype_test_precision": 0.7556837201118469, + "covertype_test_recall": 0.7552631497383118, + "covertype_test_f1-score": 0.7535849809646606, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7552631497383118 + }, + "10": { + "covertype_test_loss": 0.571601152420044, + "covertype_test_accuracy": 0.7594444155693054, + "covertype_test_precision": 0.7584362626075745, + "covertype_test_recall": 0.7594444155693054, + "covertype_test_f1-score": 0.7571057677268982, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7594444155693054 + }, + "20": { + "covertype_test_loss": 0.5467684268951416, + "covertype_test_accuracy": 0.7606250047683716, + "covertype_test_precision": 0.7598522901535034, + "covertype_test_recall": 0.7606250047683716, + "covertype_test_f1-score": 0.7589094638824463, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7606250047683716 + }, + "50": { + "covertype_test_loss": 0.5331109762191772, + "covertype_test_accuracy": 0.7609999775886536, + "covertype_test_precision": 0.7600559592247009, + "covertype_test_recall": 0.7609999775886536, + "covertype_test_f1-score": 0.7590686678886414, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7609999775886536 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5996406197547912, + "std": 0.012396050755432196, + "n": 5, + "ci95": 0.015389262421062961 + }, + "lr": { + "mean": 2.2239986355998555e-05, + "std": 4.150993543804318e-05, + "n": 5, + "ci95": 5.153312955398231e-05 + }, + "covertype_test_accuracy": { + "mean": 0.7542000055313111, + "std": 0.004751321864699458, + "n": 5, + "ci95": 0.00589859951894371 + }, + "covertype_test_precision": { + "mean": 0.754922342300415, + "std": 0.0051017241724197636, + "n": 5, + "ci95": 0.006333611699261766 + }, + "covertype_test_recall": { + "mean": 0.7542000055313111, + "std": 0.004751321864699458, + "n": 5, + "ci95": 0.00589859951894371 + }, + "covertype_test_f1-score": { + "mean": 0.7531165719032288, + "std": 0.005300299251371255, + "n": 5, + "ci95": 0.006580135697957772 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7542000055313111, + "std": 0.004751321864699458, + "n": 5, + "ci95": 0.00589859951894371 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5786633014678955, + "std": 0.01369603661224329, + "n": 5, + "ci95": 0.017003149286230028 + }, + "covertype_test_accuracy": { + "mean": 0.7610526323318482, + "std": 0.0036464274256911983, + "n": 5, + "ci95": 0.0045269118092898936 + }, + "covertype_test_precision": { + "mean": 0.7617244720458984, + "std": 0.004030014079582434, + "n": 5, + "ci95": 0.005003121191972745 + }, + "covertype_test_recall": { + "mean": 0.7610526323318482, + "std": 0.0036464274256911983, + "n": 5, + "ci95": 0.0045269118092898936 + }, + "covertype_test_f1-score": { + "mean": 0.7600220680236817, + "std": 0.0041698652842784584, + "n": 5, + "ci95": 0.005176741559574562 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7610526323318482, + "std": 0.0036464274256911983, + "n": 5, + "ci95": 0.0045269118092898936 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5589095950126648, + "std": 0.015259990847316737, + "n": 5, + "ci95": 0.018944743638570908 + }, + "covertype_test_accuracy": { + "mean": 0.7672222137451172, + "std": 0.005166965756870202, + "n": 5, + "ci95": 0.006414606839059313 + }, + "covertype_test_precision": { + "mean": 0.7664899230003357, + "std": 0.005651751157502981, + "n": 5, + "ci95": 0.007016450917905848 + }, + "covertype_test_recall": { + "mean": 0.7672222137451172, + "std": 0.005166965756870202, + "n": 5, + "ci95": 0.006414606839059313 + }, + "covertype_test_f1-score": { + "mean": 0.7655504584312439, + "std": 0.0057634715498205554, + "n": 5, + "ci95": 0.007155147868174936 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7672222137451172, + "std": 0.005166965756870202, + "n": 5, + "ci95": 0.006414606839059313 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5424567461013794, + "std": 0.013056470323333392, + "n": 5, + "ci95": 0.016209150161033914 + }, + "covertype_test_accuracy": { + "mean": 0.7712499976158143, + "std": 0.007084862874677287, + "n": 5, + "ci95": 0.008795608871468664 + }, + "covertype_test_precision": { + "mean": 0.771456527709961, + "std": 0.0076730250035959326, + "n": 5, + "ci95": 0.009525791534208539 + }, + "covertype_test_recall": { + "mean": 0.7712499976158143, + "std": 0.007084862874677287, + "n": 5, + "ci95": 0.008795608871468664 + }, + "covertype_test_f1-score": { + "mean": 0.770150876045227, + "std": 0.0075849383658611515, + "n": 5, + "ci95": 0.009416435061680738 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7712499976158143, + "std": 0.007084862874677287, + "n": 5, + "ci95": 0.008795608871468664 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5320415019989013, + "std": 0.011473250805280544, + "n": 5, + "ci95": 0.014243638635293585 + }, + "covertype_test_accuracy": { + "mean": 0.7724000096321106, + "std": 0.0077006604784798415, + "n": 5, + "ci95": 0.00956010000740778 + }, + "covertype_test_precision": { + "mean": 0.7719441533088685, + "std": 0.008040696582776213, + "n": 5, + "ci95": 0.009982242909602628 + }, + "covertype_test_recall": { + "mean": 0.7724000096321106, + "std": 0.0077006604784798415, + "n": 5, + "ci95": 0.00956010000740778 + }, + "covertype_test_f1-score": { + "mean": 0.7708235740661621, + "std": 0.00807793912076384, + "n": 5, + "ci95": 0.010028478214832144 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7724000096321106, + "std": 0.0077006604784798415, + "n": 5, + "ci95": 0.00956010000740778 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/dcnv2_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/dcnv2_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..cbcab26134f5811fae790eaa3c8d8eea5ab745d0 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/dcnv2_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "dcnv2", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpw_1xg98b", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "dcnv2", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpw_1xg98b/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "hidden_dim": 128, + "n_hidden_layers": 4, + "n_cross_layers": 2, + "hidden_dropout": 0.1, + "cross_dropout": 0.1, + "d_embedding": 128, + "stacked": true, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5846407413482666, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.7647647857666016, + "covertype_val_precision": 0.7575430274009705, + "covertype_val_recall": 0.7647647857666016, + "covertype_val_f1-score": 0.7589462399482727, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7647647857666016 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.616855800151825, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.7825000286102295, + "covertype_test_precision": 0.7820333242416382, + "covertype_test_recall": 0.7825000286102295, + "covertype_test_f1-score": 0.7802140712738037, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7825000286102295 + }, + "5": { + "covertype_test_loss": 0.5993453860282898, + "covertype_test_accuracy": 0.7915789484977722, + "covertype_test_precision": 0.789726197719574, + "covertype_test_recall": 0.7915789484977722, + "covertype_test_f1-score": 0.7890426516532898, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7915789484977722 + }, + "10": { + "covertype_test_loss": 0.5312721133232117, + "covertype_test_accuracy": 0.8022222518920898, + "covertype_test_precision": 0.7994952201843262, + "covertype_test_recall": 0.8022222518920898, + "covertype_test_f1-score": 0.7987222671508789, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8022222518920898 + }, + "20": { + "covertype_test_loss": 0.517605185508728, + "covertype_test_accuracy": 0.8043749928474426, + "covertype_test_precision": 0.8030835390090942, + "covertype_test_recall": 0.8043749928474426, + "covertype_test_f1-score": 0.8017932176589966, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8043749928474426 + }, + "50": { + "covertype_test_loss": 0.49541014432907104, + "covertype_test_accuracy": 0.8119999766349792, + "covertype_test_precision": 0.810208797454834, + "covertype_test_recall": 0.8119999766349792, + "covertype_test_f1-score": 0.8088652491569519, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8119999766349792 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5725677609443665, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7650537490844727, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7664446234703064, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5793511867523193, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7829999923706055, + "covertype_test_precision": 0.7835702300071716, + "covertype_test_recall": 0.7829999923706055, + "covertype_test_f1-score": 0.7817316055297852, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7829999923706055 + }, + "5": { + "covertype_test_loss": 0.5621495246887207, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7894662618637085, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7886228561401367, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7900000214576721 + }, + "10": { + "covertype_test_loss": 0.5276155471801758, + "covertype_test_accuracy": 0.7988888621330261, + "covertype_test_precision": 0.7974643111228943, + "covertype_test_recall": 0.7988888621330261, + "covertype_test_f1-score": 0.7968734502792358, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7988888621330261 + }, + "20": { + "covertype_test_loss": 0.5095241069793701, + "covertype_test_accuracy": 0.8018749952316284, + "covertype_test_precision": 0.8018513321876526, + "covertype_test_recall": 0.8018749952316284, + "covertype_test_f1-score": 0.8008277416229248, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8018749952316284 + }, + "50": { + "covertype_test_loss": 0.49866968393325806, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7992934584617615, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7982590198516846, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.800000011920929 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5684400200843811, + "lr": 0.0, + "covertype_val_accuracy": 0.7677677869796753, + "covertype_val_precision": 0.7611498236656189, + "covertype_val_recall": 0.7677677869796753, + "covertype_val_f1-score": 0.7614991664886475, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7677677869796753 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5693061351776123, + "lr": 0.0, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7861979603767395, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.7842611074447632, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5523498058319092, + "covertype_test_accuracy": 0.7931578755378723, + "covertype_test_precision": 0.7911485433578491, + "covertype_test_recall": 0.7931578755378723, + "covertype_test_f1-score": 0.7908759713172913, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7931578755378723 + }, + "10": { + "covertype_test_loss": 0.5213196277618408, + "covertype_test_accuracy": 0.8016666769981384, + "covertype_test_precision": 0.7992358803749084, + "covertype_test_recall": 0.8016666769981384, + "covertype_test_f1-score": 0.7986421585083008, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8016666769981384 + }, + "20": { + "covertype_test_loss": 0.5029952526092529, + "covertype_test_accuracy": 0.8056250214576721, + "covertype_test_precision": 0.8053507208824158, + "covertype_test_recall": 0.8056250214576721, + "covertype_test_f1-score": 0.8037531971931458, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8056250214576721 + }, + "50": { + "covertype_test_loss": 0.48514944314956665, + "covertype_test_accuracy": 0.8130000233650208, + "covertype_test_precision": 0.8104490041732788, + "covertype_test_recall": 0.8130000233650208, + "covertype_test_f1-score": 0.8104482889175415, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8130000233650208 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5718154311180115, + "lr": 0.0, + "covertype_val_accuracy": 0.7757757902145386, + "covertype_val_precision": 0.7710421085357666, + "covertype_val_recall": 0.7757757902145386, + "covertype_val_f1-score": 0.7716262936592102, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7757757902145386 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5497010946273804, + "lr": 0.0, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7845497727394104, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7833577394485474, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7860000133514404 + }, + "5": { + "covertype_test_loss": 0.5330538749694824, + "covertype_test_accuracy": 0.7931578755378723, + "covertype_test_precision": 0.7899021506309509, + "covertype_test_recall": 0.7931578755378723, + "covertype_test_f1-score": 0.7903696298599243, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7931578755378723 + }, + "10": { + "covertype_test_loss": 0.501044750213623, + "covertype_test_accuracy": 0.8005555272102356, + "covertype_test_precision": 0.79654860496521, + "covertype_test_recall": 0.8005555272102356, + "covertype_test_f1-score": 0.7971448302268982, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8005555272102356 + }, + "20": { + "covertype_test_loss": 0.48918354511260986, + "covertype_test_accuracy": 0.8012499809265137, + "covertype_test_precision": 0.8003405332565308, + "covertype_test_recall": 0.8012499809265137, + "covertype_test_f1-score": 0.7987251877784729, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8012499809265137 + }, + "50": { + "covertype_test_loss": 0.46902161836624146, + "covertype_test_accuracy": 0.8059999942779541, + "covertype_test_precision": 0.8049941658973694, + "covertype_test_recall": 0.8059999942779541, + "covertype_test_f1-score": 0.8033182621002197, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8059999942779541 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.573976457118988, + "lr": 3.9426490729965735e-06, + "covertype_val_accuracy": 0.7677677869796753, + "covertype_val_precision": 0.7600467801094055, + "covertype_val_recall": 0.7677677869796753, + "covertype_val_f1-score": 0.7624264359474182, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7677677869796753 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5597279667854309, + "lr": 3.9426490729965735e-06, + "covertype_test_accuracy": 0.7944999933242798, + "covertype_test_precision": 0.7946945428848267, + "covertype_test_recall": 0.7944999933242798, + "covertype_test_f1-score": 0.79310542345047, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7944999933242798 + }, + "5": { + "covertype_test_loss": 0.5443616509437561, + "covertype_test_accuracy": 0.8036842346191406, + "covertype_test_precision": 0.802882969379425, + "covertype_test_recall": 0.8036842346191406, + "covertype_test_f1-score": 0.8020628094673157, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.8036842346191406 + }, + "10": { + "covertype_test_loss": 0.5051840543746948, + "covertype_test_accuracy": 0.8105555772781372, + "covertype_test_precision": 0.8082817792892456, + "covertype_test_recall": 0.8105555772781372, + "covertype_test_f1-score": 0.8082205653190613, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8105555772781372 + }, + "20": { + "covertype_test_loss": 0.4913649260997772, + "covertype_test_accuracy": 0.8131250143051147, + "covertype_test_precision": 0.8134629726409912, + "covertype_test_recall": 0.8131250143051147, + "covertype_test_f1-score": 0.8121498823165894, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8131250143051147 + }, + "50": { + "covertype_test_loss": 0.4668554365634918, + "covertype_test_accuracy": 0.8140000104904175, + "covertype_test_precision": 0.8139638900756836, + "covertype_test_recall": 0.8140000104904175, + "covertype_test_f1-score": 0.8130091428756714, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8140000104904175 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5749884366989135, + "std": 0.025867594941010156, + "n": 5, + "ci95": 0.032113712230043744 + }, + "lr": { + "mean": 1.7743868056641077e-06, + "std": 2.0199115766118983e-06, + "n": 5, + "ci95": 2.5076494065016216e-06 + }, + "covertype_test_accuracy": { + "mean": 0.7865000009536743, + "std": 0.00480883833068291, + "n": 5, + "ci95": 0.00597000419499859 + }, + "covertype_test_precision": { + "mean": 0.7862091660499573, + "std": 0.004978879643101367, + "n": 5, + "ci95": 0.006181104522906077 + }, + "covertype_test_recall": { + "mean": 0.7865000009536743, + "std": 0.00480883833068291, + "n": 5, + "ci95": 0.00597000419499859 + }, + "covertype_test_f1-score": { + "mean": 0.7845339894294738, + "std": 0.005035934822960426, + "n": 5, + "ci95": 0.006251936528409704 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7865000009536743, + "std": 0.00480883833068291, + "n": 5, + "ci95": 0.00597000419499859 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5582520484924316, + "std": 0.025330713925554933, + "n": 5, + "ci95": 0.03144719327180969 + }, + "covertype_test_accuracy": { + "mean": 0.7943157911300659, + "std": 0.005398273934888141, + "n": 5, + "ci95": 0.006701767832660127 + }, + "covertype_test_precision": { + "mean": 0.7926252245903015, + "std": 0.005770624959966766, + "n": 5, + "ci95": 0.007164028576080821 + }, + "covertype_test_recall": { + "mean": 0.7943157911300659, + "std": 0.005398273934888141, + "n": 5, + "ci95": 0.006701767832660127 + }, + "covertype_test_f1-score": { + "mean": 0.7921947836875916, + "std": 0.0055933663414339165, + "n": 5, + "ci95": 0.006943968215663073 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7943157911300659, + "std": 0.005398273934888141, + "n": 5, + "ci95": 0.006701767832660127 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5172872185707093, + "std": 0.013498299326906417, + "n": 5, + "ci95": 0.01675766537893445 + }, + "covertype_test_accuracy": { + "mean": 0.8027777791023254, + "std": 0.004530435450839767, + "n": 5, + "ci95": 0.005624376780169856 + }, + "covertype_test_precision": { + "mean": 0.8002051591873169, + "std": 0.00467862009481662, + "n": 5, + "ci95": 0.005808342820477674 + }, + "covertype_test_recall": { + "mean": 0.8027777791023254, + "std": 0.004530435450839767, + "n": 5, + "ci95": 0.005624376780169856 + }, + "covertype_test_f1-score": { + "mean": 0.799920654296875, + "std": 0.004715661613227746, + "n": 5, + "ci95": 0.005854328566950489 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8027777791023254, + "std": 0.004530435450839767, + "n": 5, + "ci95": 0.005624376780169856 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5021346032619476, + "std": 0.012024976620643776, + "n": 5, + "ci95": 0.014928586892171197 + }, + "covertype_test_accuracy": { + "mean": 0.8052500009536743, + "std": 0.004751655992685176, + "n": 5, + "ci95": 0.005899014327123822 + }, + "covertype_test_precision": { + "mean": 0.8048178195953369, + "std": 0.005169055150991914, + "n": 5, + "ci95": 0.006417200748609576 + }, + "covertype_test_recall": { + "mean": 0.8052500009536743, + "std": 0.004751655992685176, + "n": 5, + "ci95": 0.005899014327123822 + }, + "covertype_test_f1-score": { + "mean": 0.8034498453140259, + "std": 0.005189530277180453, + "n": 5, + "ci95": 0.006442619899937408 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8052500009536743, + "std": 0.004751655992685176, + "n": 5, + "ci95": 0.005899014327123822 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4830212652683258, + "std": 0.014664673566824195, + "n": 5, + "ci95": 0.01820567810600373 + }, + "covertype_test_accuracy": { + "mean": 0.8090000033378602, + "std": 0.005916079178626068, + "n": 5, + "ci95": 0.007344604889082586 + }, + "covertype_test_precision": { + "mean": 0.8077818632125855, + "std": 0.005723752667427806, + "n": 5, + "ci95": 0.0071058382681843495 + }, + "covertype_test_recall": { + "mean": 0.8090000033378602, + "std": 0.005916079178626068, + "n": 5, + "ci95": 0.007344604889082586 + }, + "covertype_test_f1-score": { + "mean": 0.8067799925804138, + "std": 0.005941328987885193, + "n": 5, + "ci95": 0.0073759516420474494 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.8090000033378602, + "std": 0.005916079178626068, + "n": 5, + "ci95": 0.007344604889082586 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/fttransformer_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/fttransformer_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..123da6426a6521e2fa7a09f61a71c74f6aec11a2 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/fttransformer_covertype_downstream_results.json @@ -0,0 +1,567 @@ +{ + "dataset": "covertype", + "model": "fttransformer", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp9di8dkv5", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "fttransformer", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp9di8dkv5/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_block": 128, + "attention_n_heads": 4, + "attention_dropout": 0.1, + "ffn_d_hidden_multiplier": 2.0, + "ffn_dropout": 0.1, + "residual_dropout": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6019082069396973, + "lr": 0.0, + "covertype_val_accuracy": 0.7437437176704407, + "covertype_val_precision": 0.7349170446395874, + "covertype_val_recall": 0.7437437176704407, + "covertype_val_f1-score": 0.7354514598846436, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7437437176704407 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5810569524765015, + "lr": 0.0, + "covertype_test_accuracy": 0.7365000247955322, + "covertype_test_precision": 0.7377526760101318, + "covertype_test_recall": 0.7365000247955322, + "covertype_test_f1-score": 0.7330611348152161, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7365000247955322 + }, + "5": { + "covertype_test_loss": 0.5641213655471802, + "covertype_test_accuracy": 0.7447368502616882, + "covertype_test_precision": 0.7448163628578186, + "covertype_test_recall": 0.7447368502616882, + "covertype_test_f1-score": 0.7421857714653015, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7447368502616882 + }, + "10": { + "covertype_test_loss": 0.548554003238678, + "covertype_test_accuracy": 0.7483333349227905, + "covertype_test_precision": 0.7486662864685059, + "covertype_test_recall": 0.7483333349227905, + "covertype_test_f1-score": 0.7455787062644958, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7483333349227905 + }, + "20": { + "covertype_test_loss": 0.5370948910713196, + "covertype_test_accuracy": 0.7487499713897705, + "covertype_test_precision": 0.7486799955368042, + "covertype_test_recall": 0.7487499713897705, + "covertype_test_f1-score": 0.7466267347335815, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7487499713897705 + }, + "50": { + "covertype_test_loss": 0.5120971202850342, + "covertype_test_accuracy": 0.7620000243186951, + "covertype_test_precision": 0.759227454662323, + "covertype_test_recall": 0.7620000243186951, + "covertype_test_f1-score": 0.7594404220581055, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7620000243186951 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5655949711799622, + "lr": 9.866357686405536e-07, + "covertype_val_accuracy": 0.7507507801055908, + "covertype_val_precision": 0.7460033297538757, + "covertype_val_recall": 0.7507507801055908, + "covertype_val_f1-score": 0.7447218894958496, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7507507801055908 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5741069316864014, + "lr": 9.866358823273913e-07, + "covertype_test_accuracy": 0.7670000195503235, + "covertype_test_precision": 0.7669541835784912, + "covertype_test_recall": 0.7670000195503235, + "covertype_test_f1-score": 0.7650806307792664, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7670000195503235 + }, + "5": { + "covertype_test_loss": 0.5588929057121277, + "covertype_test_accuracy": 0.7752631306648254, + "covertype_test_precision": 0.7753745913505554, + "covertype_test_recall": 0.7752631306648254, + "covertype_test_f1-score": 0.7735868096351624, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7752631306648254 + }, + "10": { + "covertype_test_loss": 0.5417693257331848, + "covertype_test_accuracy": 0.7816666960716248, + "covertype_test_precision": 0.781072199344635, + "covertype_test_recall": 0.7816666960716248, + "covertype_test_f1-score": 0.7795684337615967, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7816666960716248 + }, + "20": { + "covertype_test_loss": 0.5247318148612976, + "covertype_test_accuracy": 0.7862499952316284, + "covertype_test_precision": 0.7860060930252075, + "covertype_test_recall": 0.7862499952316284, + "covertype_test_f1-score": 0.7848518490791321, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7862499952316284 + }, + "50": { + "covertype_test_loss": 0.5017005205154419, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.8002607226371765, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.8011829853057861, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.59453284740448, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.744015097618103, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7449423670768738, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5704570412635803, + "lr": 0.0, + "covertype_test_accuracy": 0.746999979019165, + "covertype_test_precision": 0.7468782067298889, + "covertype_test_recall": 0.746999979019165, + "covertype_test_f1-score": 0.7441012263298035, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.746999979019165 + }, + "5": { + "covertype_test_loss": 0.5552951693534851, + "covertype_test_accuracy": 0.753157913684845, + "covertype_test_precision": 0.7530277371406555, + "covertype_test_recall": 0.753157913684845, + "covertype_test_f1-score": 0.7505545020103455, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.753157913684845 + }, + "10": { + "covertype_test_loss": 0.5392232537269592, + "covertype_test_accuracy": 0.7594444155693054, + "covertype_test_precision": 0.7597792148590088, + "covertype_test_recall": 0.7594444155693054, + "covertype_test_f1-score": 0.7560840249061584, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7594444155693054 + }, + "20": { + "covertype_test_loss": 0.5240494012832642, + "covertype_test_accuracy": 0.7631250023841858, + "covertype_test_precision": 0.7650023698806763, + "covertype_test_recall": 0.7631250023841858, + "covertype_test_f1-score": 0.7607513070106506, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7631250023841858 + }, + "50": { + "covertype_test_loss": 0.4986211657524109, + "covertype_test_accuracy": 0.7720000147819519, + "covertype_test_precision": 0.7705264091491699, + "covertype_test_recall": 0.7720000147819519, + "covertype_test_f1-score": 0.7705883979797363, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7720000147819519 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5866713523864746, + "lr": 0.0, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.7420957684516907, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7417154908180237, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5725284218788147, + "lr": 0.0, + "covertype_test_accuracy": 0.7524999976158142, + "covertype_test_precision": 0.7531401515007019, + "covertype_test_recall": 0.7524999976158142, + "covertype_test_f1-score": 0.7488797307014465, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7524999976158142 + }, + "5": { + "covertype_test_loss": 0.5557495951652527, + "covertype_test_accuracy": 0.7605262994766235, + "covertype_test_precision": 0.7617143988609314, + "covertype_test_recall": 0.7605262994766235, + "covertype_test_f1-score": 0.7571811079978943, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7605262994766235 + }, + "10": { + "covertype_test_loss": 0.5390737652778625, + "covertype_test_accuracy": 0.7688888907432556, + "covertype_test_precision": 0.768511176109314, + "covertype_test_recall": 0.7688888907432556, + "covertype_test_f1-score": 0.7644845247268677, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7688888907432556 + }, + "20": { + "covertype_test_loss": 0.527003288269043, + "covertype_test_accuracy": 0.7706249952316284, + "covertype_test_precision": 0.7716401815414429, + "covertype_test_recall": 0.7706249952316284, + "covertype_test_f1-score": 0.7674456238746643, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7706249952316284 + }, + "50": { + "covertype_test_loss": 0.5099217891693115, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7780951261520386, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7767359614372253, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5855925679206848, + "lr": 0.0, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7435497045516968, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7411024570465088, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.565687358379364, + "lr": 0.0, + "covertype_test_accuracy": 0.7630000114440918, + "covertype_test_precision": 0.7620832324028015, + "covertype_test_recall": 0.7630000114440918, + "covertype_test_f1-score": 0.7587645053863525, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7630000114440918 + }, + "5": { + "covertype_test_loss": 0.5516603589057922, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7696980834007263, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.765606164932251, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7699999809265137 + }, + "10": { + "covertype_test_loss": 0.5336605906486511, + "covertype_test_accuracy": 0.7766666412353516, + "covertype_test_precision": 0.7791227698326111, + "covertype_test_recall": 0.7766666412353516, + "covertype_test_f1-score": 0.7714529633522034, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7766666412353516 + }, + "20": { + "covertype_test_loss": 0.5177930593490601, + "covertype_test_accuracy": 0.7756249904632568, + "covertype_test_precision": 0.7791837453842163, + "covertype_test_recall": 0.7756249904632568, + "covertype_test_f1-score": 0.7713565230369568, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7756249904632568 + }, + "50": { + "covertype_test_loss": 0.5115044116973877, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7811746597290039, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7769169807434082, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5727673411369324, + "std": 0.005613218389781267, + "n": 5, + "ci95": 0.006968613837695487 + }, + "lr": { + "mean": 1.9732717646547825e-07, + "std": 4.4123698038490607e-07, + "n": 5, + "ci95": 5.477802418681676e-07 + }, + "covertype_test_accuracy": { + "mean": 0.7532000064849853, + "std": 0.012291259081395285, + "n": 5, + "ci95": 0.01525916723162613 + }, + "covertype_test_precision": { + "mean": 0.7533616900444031, + "std": 0.011689173793745768, + "n": 5, + "ci95": 0.014511699455452401 + }, + "covertype_test_recall": { + "mean": 0.7532000064849853, + "std": 0.012291259081395285, + "n": 5, + "ci95": 0.01525916723162613 + }, + "covertype_test_f1-score": { + "mean": 0.749977445602417, + "std": 0.012522131644866595, + "n": 5, + "ci95": 0.015545787425039466 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7532000064849853, + "std": 0.012291259081395285, + "n": 5, + "ci95": 0.01525916723162613 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5571438789367675, + "std": 0.004668381955998023, + "n": 5, + "ci95": 0.0057956325300721895 + }, + "covertype_test_accuracy": { + "mean": 0.7607368350028991, + "std": 0.012352155918421056, + "n": 5, + "ci95": 0.015334768519817988 + }, + "covertype_test_precision": { + "mean": 0.7609262347221375, + "std": 0.012331218276605313, + "n": 5, + "ci95": 0.015308775171554267 + }, + "covertype_test_recall": { + "mean": 0.7607368350028991, + "std": 0.012352155918421056, + "n": 5, + "ci95": 0.015334768519817988 + }, + "covertype_test_f1-score": { + "mean": 0.7578228712081909, + "std": 0.01231707509017147, + "n": 5, + "ci95": 0.015291216901441097 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7607368350028991, + "std": 0.012352155918421056, + "n": 5, + "ci95": 0.015334768519817988 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5404561877250671, + "std": 0.00540625344420836, + "n": 5, + "ci95": 0.0067116741137284225 + }, + "covertype_test_accuracy": { + "mean": 0.7669999957084656, + "std": 0.013394542506785581, + "n": 5, + "ci95": 0.0166288549243536 + }, + "covertype_test_precision": { + "mean": 0.767430329322815, + "std": 0.0135518529113167, + "n": 5, + "ci95": 0.01682415027645048 + }, + "covertype_test_recall": { + "mean": 0.7669999957084656, + "std": 0.013394542506785581, + "n": 5, + "ci95": 0.0166288549243536 + }, + "covertype_test_f1-score": { + "mean": 0.7634337306022644, + "std": 0.013215152062608296, + "n": 5, + "ci95": 0.016406147977137728 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7669999957084656, + "std": 0.013394542506785581, + "n": 5, + "ci95": 0.0166288549243536 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5261344909667969, + "std": 0.007013910462115695, + "n": 5, + "ci95": 0.008707523938786427 + }, + "covertype_test_accuracy": { + "mean": 0.768874990940094, + "std": 0.014040962956719751, + "n": 5, + "ci95": 0.017431363250162053 + }, + "covertype_test_precision": { + "mean": 0.7701024770736694, + "std": 0.014341310767061377, + "n": 5, + "ci95": 0.017804234526839702 + }, + "covertype_test_recall": { + "mean": 0.768874990940094, + "std": 0.014040962956719751, + "n": 5, + "ci95": 0.017431363250162053 + }, + "covertype_test_f1-score": { + "mean": 0.7662064075469971, + "std": 0.01404309034665265, + "n": 5, + "ci95": 0.017434004330179814 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.768874990940094, + "std": 0.014040962956719751, + "n": 5, + "ci95": 0.017431363250162053 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5067690014839172, + "std": 0.006181216637386979, + "n": 5, + "ci95": 0.007673763748708693 + }, + "covertype_test_accuracy": { + "mean": 0.7791999936103821, + "std": 0.015122810916293982, + "n": 5, + "ci95": 0.01877443956358256 + }, + "covertype_test_precision": { + "mean": 0.7778568744659424, + "std": 0.015114462277710353, + "n": 5, + "ci95": 0.018764075021475004 + }, + "covertype_test_recall": { + "mean": 0.7791999936103821, + "std": 0.015122810916293982, + "n": 5, + "ci95": 0.01877443956358256 + }, + "covertype_test_f1-score": { + "mean": 0.7769729495048523, + "std": 0.015283464481071894, + "n": 5, + "ci95": 0.018973885331918343 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7791999936103821, + "std": 0.015122810916293982, + "n": 5, + "ci95": 0.01877443956358256 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..70541a76408972c1e89acdc87e7ea9292e4304a2 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp6l4qjkjx", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp6l4qjkjx/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6705493330955505, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7337337136268616, + "covertype_val_precision": 0.7295099496841431, + "covertype_val_recall": 0.7337337136268616, + "covertype_val_f1-score": 0.7244503498077393, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7337337136268616 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6814190149307251, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.7075820565223694, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.707728922367096, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7200000286102295 + }, + "5": { + "covertype_test_loss": 0.6544572114944458, + "covertype_test_accuracy": 0.7326315641403198, + "covertype_test_precision": 0.7208870649337769, + "covertype_test_recall": 0.7326315641403198, + "covertype_test_f1-score": 0.722119927406311, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7326315641403198 + }, + "10": { + "covertype_test_loss": 0.6435300707817078, + "covertype_test_accuracy": 0.7383333444595337, + "covertype_test_precision": 0.7258557677268982, + "covertype_test_recall": 0.7383333444595337, + "covertype_test_f1-score": 0.72837895154953, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7383333444595337 + }, + "20": { + "covertype_test_loss": 0.6378825902938843, + "covertype_test_accuracy": 0.7393749952316284, + "covertype_test_precision": 0.7287070751190186, + "covertype_test_recall": 0.7393749952316284, + "covertype_test_f1-score": 0.7299429178237915, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7393749952316284 + }, + "50": { + "covertype_test_loss": 0.6289372444152832, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7509466409683228, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7424222826957703, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7519999742507935 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6231045126914978, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7437437176704407, + "covertype_val_precision": 0.7353074550628662, + "covertype_val_recall": 0.7437437176704407, + "covertype_val_f1-score": 0.7291738390922546, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7437437176704407 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6182901859283447, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7289999723434448, + "covertype_test_precision": 0.7145907282829285, + "covertype_test_recall": 0.7289999723434448, + "covertype_test_f1-score": 0.7145280241966248, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7289999723434448 + }, + "5": { + "covertype_test_loss": 0.6034448742866516, + "covertype_test_accuracy": 0.7347368597984314, + "covertype_test_precision": 0.7232722640037537, + "covertype_test_recall": 0.7347368597984314, + "covertype_test_f1-score": 0.7240466475486755, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7347368597984314 + }, + "10": { + "covertype_test_loss": 0.5917911529541016, + "covertype_test_accuracy": 0.7388888597488403, + "covertype_test_precision": 0.7275962829589844, + "covertype_test_recall": 0.7388888597488403, + "covertype_test_f1-score": 0.7302201986312866, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7388888597488403 + }, + "20": { + "covertype_test_loss": 0.5730946660041809, + "covertype_test_accuracy": 0.7425000071525574, + "covertype_test_precision": 0.7308614253997803, + "covertype_test_recall": 0.7425000071525574, + "covertype_test_f1-score": 0.7356743216514587, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7425000071525574 + }, + "50": { + "covertype_test_loss": 0.5370916128158569, + "covertype_test_accuracy": 0.7639999985694885, + "covertype_test_precision": 0.7514044642448425, + "covertype_test_recall": 0.7639999985694885, + "covertype_test_f1-score": 0.7565327286720276, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7639999985694885 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.7295517325401306, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6926926970481873, + "covertype_val_precision": 0.686943531036377, + "covertype_val_recall": 0.6926926970481873, + "covertype_val_f1-score": 0.6729640364646912, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6926926970481873 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7202839255332947, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6819999814033508, + "covertype_test_precision": 0.6814717650413513, + "covertype_test_recall": 0.6819999814033508, + "covertype_test_f1-score": 0.6630392670631409, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6819999814033508 + }, + "5": { + "covertype_test_loss": 0.7017326354980469, + "covertype_test_accuracy": 0.6894736886024475, + "covertype_test_precision": 0.6951774954795837, + "covertype_test_recall": 0.6894736886024475, + "covertype_test_f1-score": 0.6749052405357361, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6894736886024475 + }, + "10": { + "covertype_test_loss": 0.6892324686050415, + "covertype_test_accuracy": 0.6933333277702332, + "covertype_test_precision": 0.7048428654670715, + "covertype_test_recall": 0.6933333277702332, + "covertype_test_f1-score": 0.6809457540512085, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6933333277702332 + }, + "20": { + "covertype_test_loss": 0.6739429235458374, + "covertype_test_accuracy": 0.6931250095367432, + "covertype_test_precision": 0.7143157124519348, + "covertype_test_recall": 0.6931250095367432, + "covertype_test_f1-score": 0.6818781495094299, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6931250095367432 + }, + "50": { + "covertype_test_loss": 0.6179597973823547, + "covertype_test_accuracy": 0.7149999737739563, + "covertype_test_precision": 0.7346712350845337, + "covertype_test_recall": 0.7149999737739563, + "covertype_test_f1-score": 0.7068011164665222, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7149999737739563 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.606345534324646, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7487487196922302, + "covertype_val_precision": 0.7484132647514343, + "covertype_val_recall": 0.7487487196922302, + "covertype_val_f1-score": 0.7376852035522461, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7487487196922302 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6072763800621033, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7315000295639038, + "covertype_test_precision": 0.7344970703125, + "covertype_test_recall": 0.7315000295639038, + "covertype_test_f1-score": 0.7200049161911011, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7315000295639038 + }, + "5": { + "covertype_test_loss": 0.5867596864700317, + "covertype_test_accuracy": 0.7415789365768433, + "covertype_test_precision": 0.7419521808624268, + "covertype_test_recall": 0.7415789365768433, + "covertype_test_f1-score": 0.7333943843841553, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7415789365768433 + }, + "10": { + "covertype_test_loss": 0.5709702968597412, + "covertype_test_accuracy": 0.7477777600288391, + "covertype_test_precision": 0.7476199865341187, + "covertype_test_recall": 0.7477777600288391, + "covertype_test_f1-score": 0.7418382167816162, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7477777600288391 + }, + "20": { + "covertype_test_loss": 0.5537935495376587, + "covertype_test_accuracy": 0.753125011920929, + "covertype_test_precision": 0.7526664733886719, + "covertype_test_recall": 0.753125011920929, + "covertype_test_f1-score": 0.7484576106071472, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.753125011920929 + }, + "50": { + "covertype_test_loss": 0.5207836031913757, + "covertype_test_accuracy": 0.7609999775886536, + "covertype_test_precision": 0.751419186592102, + "covertype_test_recall": 0.7609999775886536, + "covertype_test_f1-score": 0.7524806261062622, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7609999775886536 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6483317613601685, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7237237095832825, + "covertype_val_precision": 0.7038246393203735, + "covertype_val_recall": 0.7237237095832825, + "covertype_val_f1-score": 0.7061953544616699, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7237237095832825 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6495459079742432, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7114999890327454, + "covertype_test_precision": 0.6964298486709595, + "covertype_test_recall": 0.7114999890327454, + "covertype_test_f1-score": 0.6970967650413513, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7114999890327454 + }, + "5": { + "covertype_test_loss": 0.6284118890762329, + "covertype_test_accuracy": 0.7221052646636963, + "covertype_test_precision": 0.709141731262207, + "covertype_test_recall": 0.7221052646636963, + "covertype_test_f1-score": 0.7111442685127258, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7221052646636963 + }, + "10": { + "covertype_test_loss": 0.6135104298591614, + "covertype_test_accuracy": 0.7283333539962769, + "covertype_test_precision": 0.7148656249046326, + "covertype_test_recall": 0.7283333539962769, + "covertype_test_f1-score": 0.7188543677330017, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7283333539962769 + }, + "20": { + "covertype_test_loss": 0.5961951613426208, + "covertype_test_accuracy": 0.7293750047683716, + "covertype_test_precision": 0.7180294990539551, + "covertype_test_recall": 0.7293750047683716, + "covertype_test_f1-score": 0.7216936945915222, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7293750047683716 + }, + "50": { + "covertype_test_loss": 0.5475209355354309, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7417904734611511, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7445409893989563, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7519999742507935 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6553630828857422, + "std": 0.04640635087467766, + "n": 5, + "ci95": 0.05761185765566346 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7148000001907349, + "std": 0.019964354433975547, + "n": 5, + "ci95": 0.024785046101632357 + }, + "covertype_test_precision": { + "mean": 0.7069142937660218, + "std": 0.019858430028964577, + "n": 5, + "ci95": 0.024653544666403526 + }, + "covertype_test_recall": { + "mean": 0.7148000001907349, + "std": 0.019964354433975547, + "n": 5, + "ci95": 0.024785046101632357 + }, + "covertype_test_f1-score": { + "mean": 0.7004795789718627, + "std": 0.022607360374062725, + "n": 5, + "ci95": 0.028066245315390474 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7148000001907349, + "std": 0.019964354433975547, + "n": 5, + "ci95": 0.024785046101632357 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6349612593650817, + "std": 0.045271617016817305, + "n": 5, + "ci95": 0.056203125353641734 + }, + "covertype_test_accuracy": { + "mean": 0.7241052627563477, + "std": 0.020581568626372584, + "n": 5, + "ci95": 0.025551295882647495 + }, + "covertype_test_precision": { + "mean": 0.7180861473083496, + "std": 0.017386326599840064, + "n": 5, + "ci95": 0.021584514928352866 + }, + "covertype_test_recall": { + "mean": 0.7241052627563477, + "std": 0.020581568626372584, + "n": 5, + "ci95": 0.025551295882647495 + }, + "covertype_test_f1-score": { + "mean": 0.7131220936775208, + "std": 0.022779992954521804, + "n": 5, + "ci95": 0.028280562611723403 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7241052627563477, + "std": 0.020581568626372584, + "n": 5, + "ci95": 0.025551295882647495 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6218068838119507, + "std": 0.04629319646795965, + "n": 5, + "ci95": 0.05747138042679119 + }, + "covertype_test_accuracy": { + "mean": 0.7293333292007447, + "std": 0.021269141500615197, + "n": 5, + "ci95": 0.02640489350047648 + }, + "covertype_test_precision": { + "mean": 0.7241561055183411, + "std": 0.016004621645641388, + "n": 5, + "ci95": 0.019869176668760136 + }, + "covertype_test_recall": { + "mean": 0.7293333292007447, + "std": 0.021269141500615197, + "n": 5, + "ci95": 0.02640489350047648 + }, + "covertype_test_f1-score": { + "mean": 0.7200474977493286, + "std": 0.023335071893354632, + "n": 5, + "ci95": 0.02896967365383173 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7293333292007447, + "std": 0.021269141500615197, + "n": 5, + "ci95": 0.02640489350047648 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6069817781448364, + "std": 0.04881682680829772, + "n": 5, + "ci95": 0.060604379018637064 + }, + "covertype_test_accuracy": { + "mean": 0.7315000057220459, + "std": 0.023064108185794525, + "n": 5, + "ci95": 0.028633281710583245 + }, + "covertype_test_precision": { + "mean": 0.7289160370826722, + "std": 0.01499664641766254, + "n": 5, + "ci95": 0.018617810761719172 + }, + "covertype_test_recall": { + "mean": 0.7315000057220459, + "std": 0.023064108185794525, + "n": 5, + "ci95": 0.028633281710583245 + }, + "covertype_test_f1-score": { + "mean": 0.7235293388366699, + "std": 0.02524006982273758, + "n": 5, + "ci95": 0.031334661796043765 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7315000057220459, + "std": 0.023064108185794525, + "n": 5, + "ci95": 0.028633281710583245 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5704586386680603, + "std": 0.04945506343685103, + "n": 5, + "ci95": 0.06139672741711689 + }, + "covertype_test_accuracy": { + "mean": 0.7487999796867371, + "std": 0.019639251850355473, + "n": 5, + "ci95": 0.024381442641804443 + }, + "covertype_test_precision": { + "mean": 0.7460464000701904, + "std": 0.007567947828207691, + "n": 5, + "ci95": 0.009395341904853393 + }, + "covertype_test_recall": { + "mean": 0.7487999796867371, + "std": 0.019639251850355473, + "n": 5, + "ci95": 0.024381442641804443 + }, + "covertype_test_f1-score": { + "mean": 0.7405555486679077, + "std": 0.019724400369746417, + "n": 5, + "ci95": 0.024487151543415544 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7487999796867371, + "std": 0.019639251850355473, + "n": 5, + "ci95": 0.024381442641804443 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..23ac94a3c7bdfa1f13e7ff14fbe9bed163848e44 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmphyhv4biw", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmphyhv4biw/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5823927521705627, + "lr": 0.0, + "covertype_val_accuracy": 0.7617617845535278, + "covertype_val_precision": 0.7594651579856873, + "covertype_val_recall": 0.7617617845535278, + "covertype_val_f1-score": 0.7601388692855835, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7617617845535278 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5435481667518616, + "lr": 0.0, + "covertype_test_accuracy": 0.781499981880188, + "covertype_test_precision": 0.7828312516212463, + "covertype_test_recall": 0.781499981880188, + "covertype_test_f1-score": 0.7816582918167114, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.781499981880188 + }, + "5": { + "covertype_test_loss": 0.5201967358589172, + "covertype_test_accuracy": 0.7878947257995605, + "covertype_test_precision": 0.7886711955070496, + "covertype_test_recall": 0.7878947257995605, + "covertype_test_f1-score": 0.7878361940383911, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7878947257995605 + }, + "10": { + "covertype_test_loss": 0.4966191351413727, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7942980527877808, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7942948341369629, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7950000166893005 + }, + "20": { + "covertype_test_loss": 0.48331043124198914, + "covertype_test_accuracy": 0.7993749976158142, + "covertype_test_precision": 0.7997202277183533, + "covertype_test_recall": 0.7993749976158142, + "covertype_test_f1-score": 0.7991930246353149, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7993749976158142 + }, + "50": { + "covertype_test_loss": 0.4712762236595154, + "covertype_test_accuracy": 0.8009999990463257, + "covertype_test_precision": 0.8008901476860046, + "covertype_test_recall": 0.8009999990463257, + "covertype_test_f1-score": 0.8006287813186646, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8009999990463257 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5860503911972046, + "lr": 0.0, + "covertype_val_accuracy": 0.7667667865753174, + "covertype_val_precision": 0.7614396810531616, + "covertype_val_recall": 0.7667667865753174, + "covertype_val_f1-score": 0.7620437741279602, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7667667865753174 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.550520658493042, + "lr": 0.0, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7823535799980164, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7783828973770142, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7789999842643738 + }, + "5": { + "covertype_test_loss": 0.5363917946815491, + "covertype_test_accuracy": 0.7847368717193604, + "covertype_test_precision": 0.7874360680580139, + "covertype_test_recall": 0.7847368717193604, + "covertype_test_f1-score": 0.7843661904335022, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7847368717193604 + }, + "10": { + "covertype_test_loss": 0.5127873420715332, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7917389273643494, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7895602583885193, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7900000214576721 + }, + "20": { + "covertype_test_loss": 0.49192947149276733, + "covertype_test_accuracy": 0.793749988079071, + "covertype_test_precision": 0.795487105846405, + "covertype_test_recall": 0.793749988079071, + "covertype_test_f1-score": 0.793148934841156, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.793749988079071 + }, + "50": { + "covertype_test_loss": 0.45695802569389343, + "covertype_test_accuracy": 0.8009999990463257, + "covertype_test_precision": 0.7996031045913696, + "covertype_test_recall": 0.8009999990463257, + "covertype_test_f1-score": 0.7993112802505493, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8009999990463257 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6149598956108093, + "lr": 0.0, + "covertype_val_accuracy": 0.7587587833404541, + "covertype_val_precision": 0.760697066783905, + "covertype_val_recall": 0.7587587833404541, + "covertype_val_f1-score": 0.7567505836486816, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7587587833404541 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5739635229110718, + "lr": 0.0, + "covertype_test_accuracy": 0.7689999938011169, + "covertype_test_precision": 0.7757304906845093, + "covertype_test_recall": 0.7689999938011169, + "covertype_test_f1-score": 0.7686048746109009, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7689999938011169 + }, + "5": { + "covertype_test_loss": 0.5585333108901978, + "covertype_test_accuracy": 0.7736842036247253, + "covertype_test_precision": 0.7818586230278015, + "covertype_test_recall": 0.7736842036247253, + "covertype_test_f1-score": 0.7735267281532288, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7736842036247253 + }, + "10": { + "covertype_test_loss": 0.5362695455551147, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7865641713142395, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7791236042976379, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7799999713897705 + }, + "20": { + "covertype_test_loss": 0.5204457640647888, + "covertype_test_accuracy": 0.7825000286102295, + "covertype_test_precision": 0.7894704937934875, + "covertype_test_recall": 0.7825000286102295, + "covertype_test_f1-score": 0.7822181582450867, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7825000286102295 + }, + "50": { + "covertype_test_loss": 0.5056390166282654, + "covertype_test_accuracy": 0.7670000195503235, + "covertype_test_precision": 0.7711593508720398, + "covertype_test_recall": 0.7670000195503235, + "covertype_test_f1-score": 0.7663593888282776, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7670000195503235 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5462545156478882, + "lr": 0.0, + "covertype_val_accuracy": 0.7777777910232544, + "covertype_val_precision": 0.7711760401725769, + "covertype_val_recall": 0.7777777910232544, + "covertype_val_f1-score": 0.7741550207138062, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7777777910232544 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5617890357971191, + "lr": 0.0, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.781950831413269, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.7811689972877502, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.781000018119812 + }, + "5": { + "covertype_test_loss": 0.5448619723320007, + "covertype_test_accuracy": 0.7857894897460938, + "covertype_test_precision": 0.7874985933303833, + "covertype_test_recall": 0.7857894897460938, + "covertype_test_f1-score": 0.7857985496520996, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7857894897460938 + }, + "10": { + "covertype_test_loss": 0.5200310945510864, + "covertype_test_accuracy": 0.7938888669013977, + "covertype_test_precision": 0.7941267490386963, + "covertype_test_recall": 0.7938888669013977, + "covertype_test_f1-score": 0.7931578755378723, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7938888669013977 + }, + "20": { + "covertype_test_loss": 0.4966665208339691, + "covertype_test_accuracy": 0.7956249713897705, + "covertype_test_precision": 0.7947995662689209, + "covertype_test_recall": 0.7956249713897705, + "covertype_test_f1-score": 0.7950451374053955, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7956249713897705 + }, + "50": { + "covertype_test_loss": 0.46729812026023865, + "covertype_test_accuracy": 0.8050000071525574, + "covertype_test_precision": 0.803149402141571, + "covertype_test_recall": 0.8050000071525574, + "covertype_test_f1-score": 0.8036845922470093, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8050000071525574 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5547842383384705, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7847847938537598, + "covertype_val_precision": 0.7757007479667664, + "covertype_val_recall": 0.7847847938537598, + "covertype_val_f1-score": 0.7783024907112122, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7847847938537598 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5604947805404663, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7844445705413818, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7839499711990356, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7870000004768372 + }, + "5": { + "covertype_test_loss": 0.5421242117881775, + "covertype_test_accuracy": 0.7931578755378723, + "covertype_test_precision": 0.7895991206169128, + "covertype_test_recall": 0.7931578755378723, + "covertype_test_f1-score": 0.7906327247619629, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7931578755378723 + }, + "10": { + "covertype_test_loss": 0.5197411775588989, + "covertype_test_accuracy": 0.7977777719497681, + "covertype_test_precision": 0.7945762276649475, + "covertype_test_recall": 0.7977777719497681, + "covertype_test_f1-score": 0.795676589012146, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7977777719497681 + }, + "20": { + "covertype_test_loss": 0.5037052035331726, + "covertype_test_accuracy": 0.8006250262260437, + "covertype_test_precision": 0.7995786070823669, + "covertype_test_recall": 0.8006250262260437, + "covertype_test_f1-score": 0.7994137406349182, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8006250262260437 + }, + "50": { + "covertype_test_loss": 0.4980541467666626, + "covertype_test_accuracy": 0.8009999990463257, + "covertype_test_precision": 0.8031018972396851, + "covertype_test_recall": 0.8009999990463257, + "covertype_test_f1-score": 0.7992409467697144, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8009999990463257 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5580632328987122, + "std": 0.011621002834970393, + "n": 5, + "ci95": 0.014427067600131061 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7794999957084656, + "std": 0.006576475783916615, + "n": 5, + "ci95": 0.00816446412177746 + }, + "covertype_test_precision": { + "mean": 0.7814621448516845, + "std": 0.0033412066311705717, + "n": 5, + "ci95": 0.004147990893595442 + }, + "covertype_test_recall": { + "mean": 0.7794999957084656, + "std": 0.006576475783916615, + "n": 5, + "ci95": 0.00816446412177746 + }, + "covertype_test_f1-score": { + "mean": 0.7787530064582825, + "std": 0.006008487703708886, + "n": 5, + "ci95": 0.0074593268332323924 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7794999957084656, + "std": 0.006576475783916615, + "n": 5, + "ci95": 0.00816446412177746 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5404216051101685, + "std": 0.013927798867264406, + "n": 5, + "ci95": 0.017290874000510846 + }, + "covertype_test_accuracy": { + "mean": 0.7850526332855224, + "std": 0.00713540989695531, + "n": 5, + "ci95": 0.008858361227504231 + }, + "covertype_test_precision": { + "mean": 0.7870127201080322, + "std": 0.0030174501333442897, + "n": 5, + "ci95": 0.0037460585520882428 + }, + "covertype_test_recall": { + "mean": 0.7850526332855224, + "std": 0.00713540989695531, + "n": 5, + "ci95": 0.008858361227504231 + }, + "covertype_test_f1-score": { + "mean": 0.7844320774078369, + "std": 0.006535179176911584, + "n": 5, + "ci95": 0.008113195831994003 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7850526332855224, + "std": 0.00713540989695531, + "n": 5, + "ci95": 0.008858361227504231 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5170896589756012, + "std": 0.014327446737259698, + "n": 5, + "ci95": 0.017787022819898444 + }, + "covertype_test_accuracy": { + "mean": 0.7913333296775817, + "std": 0.006923310646521223, + "n": 5, + "ci95": 0.00859504744405505 + }, + "covertype_test_precision": { + "mean": 0.7922608256340027, + "std": 0.0033807284509377996, + "n": 5, + "ci95": 0.00419705584724524 + }, + "covertype_test_recall": { + "mean": 0.7913333296775817, + "std": 0.006923310646521223, + "n": 5, + "ci95": 0.00859504744405505 + }, + "covertype_test_f1-score": { + "mean": 0.7903626322746277, + "std": 0.006679694721986741, + "n": 5, + "ci95": 0.008292606814649906 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7913333296775817, + "std": 0.006923310646521223, + "n": 5, + "ci95": 0.00859504744405505 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.4992114782333374, + "std": 0.013994965055311235, + "n": 5, + "ci95": 0.017374258468198844 + }, + "covertype_test_accuracy": { + "mean": 0.7943750023841858, + "std": 0.00719428276252695, + "n": 5, + "ci95": 0.008931449826093979 + }, + "covertype_test_precision": { + "mean": 0.7958112001419068, + "std": 0.004207340277737222, + "n": 5, + "ci95": 0.005223265450121865 + }, + "covertype_test_recall": { + "mean": 0.7943750023841858, + "std": 0.00719428276252695, + "n": 5, + "ci95": 0.008931449826093979 + }, + "covertype_test_f1-score": { + "mean": 0.7938037991523743, + "std": 0.007012703435563946, + "n": 5, + "ci95": 0.008706025457639445 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7943750023841858, + "std": 0.00719428276252695, + "n": 5, + "ci95": 0.008931449826093979 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4798451066017151, + "std": 0.020925857400581793, + "n": 5, + "ci95": 0.025978718325445235 + }, + "covertype_test_accuracy": { + "mean": 0.7950000047683716, + "std": 0.015748007920853666, + "n": 5, + "ci95": 0.019550599726029072 + }, + "covertype_test_precision": { + "mean": 0.795580780506134, + "std": 0.013735227761585136, + "n": 5, + "ci95": 0.017051803724139652 + }, + "covertype_test_recall": { + "mean": 0.7950000047683716, + "std": 0.015748007920853666, + "n": 5, + "ci95": 0.019550599726029072 + }, + "covertype_test_f1-score": { + "mean": 0.793844997882843, + "std": 0.015470072295961427, + "n": 5, + "ci95": 0.019205552391840446 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7950000047683716, + "std": 0.015748007920853666, + "n": 5, + "ci95": 0.019550599726029072 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..57a263fe84a809125311072529dc9c2688306d2a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:6de6043da56bcc1e67df91525aa56ca2e6cc84a15044c1acd61b5ad970e3dfe7 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..d21c9d09a606da260a61a66f67e4a455e75c8bf4 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:2be9c81df070703f6dc754397e7f166716a1fd404a6c62e60d7720f0ff7ca80c +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..32670bb4623e99a877e7108ca299408d5100872c --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f6df0b188d2001574feec2a3b8e0b7b4423c6704a06d952ea6ca4a684a451d42 +size 11498832 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..115411d0be7ac835f282e7e047da32d7b7603e33 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_181037/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00025 +sw_s_y_weight: 0.00025 +sw_seed: 0 +sw_z_weight: 0.00025 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.0005 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..1c4c52f0616621bafee4861f6f4d7850768d34df --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T18:45:38.874626+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0005, + "sw_z_weight": 0.0005, + "sw_s_y_weight": 0.0005, + "lambda_joint": 0.0005, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..b8e47b31b9b7039638789b69d7c19b497cfcc2ec --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0005, + "sw_z_weight": 0.0005, + "sw_s_y_weight": 0.0005, + "lambda_joint": 0.0005, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.0005", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.0005", + "--sw-z-end-weight", + "0.0005", + "--sw-s-y-end-weight", + "0.0005", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..4e80f4837d1556e6b93267063690a308b15ff47b --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.0005, + "s_x": 0.0005, + "z": 0.0005, + "s_y": 0.0005 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.0005", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.0005", + "--sw_z_weight", + "0.0005", + "--sw_s_y_weight", + "0.0005", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..4ebac0ffe6b09fe4f125534477b1a69a49256352 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp83g00x3p", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp83g00x3p/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6592456698417664, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7347347140312195, + "covertype_val_precision": 0.7070791721343994, + "covertype_val_recall": 0.7347347140312195, + "covertype_val_f1-score": 0.7144715785980225, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7347347140312195 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6545551419258118, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7195000052452087, + "covertype_test_precision": 0.7237049341201782, + "covertype_test_recall": 0.7195000052452087, + "covertype_test_f1-score": 0.6998279094696045, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7195000052452087 + }, + "5": { + "covertype_test_loss": 0.6318488717079163, + "covertype_test_accuracy": 0.7289473414421082, + "covertype_test_precision": 0.7262749671936035, + "covertype_test_recall": 0.7289473414421082, + "covertype_test_f1-score": 0.7127780318260193, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7289473414421082 + }, + "10": { + "covertype_test_loss": 0.6173051595687866, + "covertype_test_accuracy": 0.7361111044883728, + "covertype_test_precision": 0.7282087802886963, + "covertype_test_recall": 0.7361111044883728, + "covertype_test_f1-score": 0.7219624519348145, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7361111044883728 + }, + "20": { + "covertype_test_loss": 0.6033167839050293, + "covertype_test_accuracy": 0.7387499809265137, + "covertype_test_precision": 0.7248661518096924, + "covertype_test_recall": 0.7387499809265137, + "covertype_test_f1-score": 0.7259668707847595, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7387499809265137 + }, + "50": { + "covertype_test_loss": 0.5740162134170532, + "covertype_test_accuracy": 0.7409999966621399, + "covertype_test_precision": 0.7405974864959717, + "covertype_test_recall": 0.7409999966621399, + "covertype_test_f1-score": 0.7268762588500977, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7409999966621399 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 1.1090375185012817, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.48848849534988403, + "covertype_val_precision": 0.5774912238121033, + "covertype_val_recall": 0.48848849534988403, + "covertype_val_f1-score": 0.4227573275566101, + "covertype_val_support": 999.0, + "covertype_val_score": 0.48848849534988403 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 1.0965310335159302, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.484499990940094, + "covertype_test_precision": 0.5691372752189636, + "covertype_test_recall": 0.484499990940094, + "covertype_test_f1-score": 0.4070102572441101, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.484499990940094 + }, + "5": { + "covertype_test_loss": 1.0891083478927612, + "covertype_test_accuracy": 0.4857894778251648, + "covertype_test_precision": 0.593908965587616, + "covertype_test_recall": 0.4857894778251648, + "covertype_test_f1-score": 0.4068969190120697, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.4857894778251648 + }, + "10": { + "covertype_test_loss": 1.0812081098556519, + "covertype_test_accuracy": 0.48944443464279175, + "covertype_test_precision": 0.6088866591453552, + "covertype_test_recall": 0.48944443464279175, + "covertype_test_f1-score": 0.4100613594055176, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.48944443464279175 + }, + "20": { + "covertype_test_loss": 1.053575873374939, + "covertype_test_accuracy": 0.5012500286102295, + "covertype_test_precision": 0.6295323967933655, + "covertype_test_recall": 0.5012500286102295, + "covertype_test_f1-score": 0.4193669855594635, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.5012500286102295 + }, + "50": { + "covertype_test_loss": 0.9840519428253174, + "covertype_test_accuracy": 0.4970000088214874, + "covertype_test_precision": 0.657097578048706, + "covertype_test_recall": 0.4970000088214874, + "covertype_test_f1-score": 0.40094295144081116, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.4970000088214874 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6826314330101013, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6996996998786926, + "covertype_val_precision": 0.7172869443893433, + "covertype_val_recall": 0.6996996998786926, + "covertype_val_f1-score": 0.6930577158927917, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6996996998786926 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6787102222442627, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6995000243186951, + "covertype_test_precision": 0.7141762375831604, + "covertype_test_recall": 0.6995000243186951, + "covertype_test_f1-score": 0.6931050419807434, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6995000243186951 + }, + "5": { + "covertype_test_loss": 0.6656380295753479, + "covertype_test_accuracy": 0.7047368288040161, + "covertype_test_precision": 0.7195954918861389, + "covertype_test_recall": 0.7047368288040161, + "covertype_test_f1-score": 0.697258710861206, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7047368288040161 + }, + "10": { + "covertype_test_loss": 0.6491948366165161, + "covertype_test_accuracy": 0.7116666436195374, + "covertype_test_precision": 0.7235128283500671, + "covertype_test_recall": 0.7116666436195374, + "covertype_test_f1-score": 0.7029417753219604, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7116666436195374 + }, + "20": { + "covertype_test_loss": 0.6336287260055542, + "covertype_test_accuracy": 0.7099999785423279, + "covertype_test_precision": 0.726188063621521, + "covertype_test_recall": 0.7099999785423279, + "covertype_test_f1-score": 0.701467752456665, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7099999785423279 + }, + "50": { + "covertype_test_loss": 0.586251437664032, + "covertype_test_accuracy": 0.7260000109672546, + "covertype_test_precision": 0.7384027242660522, + "covertype_test_recall": 0.7260000109672546, + "covertype_test_f1-score": 0.7198143601417542, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7260000109672546 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6268118619918823, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7357357144355774, + "covertype_val_precision": 0.7267980575561523, + "covertype_val_recall": 0.7357357144355774, + "covertype_val_f1-score": 0.7229570746421814, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7357357144355774 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6653683185577393, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7170000076293945, + "covertype_test_precision": 0.70670086145401, + "covertype_test_recall": 0.7170000076293945, + "covertype_test_f1-score": 0.7054182291030884, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7170000076293945 + }, + "5": { + "covertype_test_loss": 0.6260854005813599, + "covertype_test_accuracy": 0.7252631783485413, + "covertype_test_precision": 0.7129790186882019, + "covertype_test_recall": 0.7252631783485413, + "covertype_test_f1-score": 0.7155065536499023, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7252631783485413 + }, + "10": { + "covertype_test_loss": 0.610731840133667, + "covertype_test_accuracy": 0.7327777743339539, + "covertype_test_precision": 0.7212228775024414, + "covertype_test_recall": 0.7327777743339539, + "covertype_test_f1-score": 0.7235599756240845, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7327777743339539 + }, + "20": { + "covertype_test_loss": 0.5949026942253113, + "covertype_test_accuracy": 0.7325000166893005, + "covertype_test_precision": 0.723023533821106, + "covertype_test_recall": 0.7325000166893005, + "covertype_test_f1-score": 0.7242217063903809, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7325000166893005 + }, + "50": { + "covertype_test_loss": 0.5659252405166626, + "covertype_test_accuracy": 0.7419999837875366, + "covertype_test_precision": 0.7350389361381531, + "covertype_test_recall": 0.7419999837875366, + "covertype_test_f1-score": 0.731687605381012, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7419999837875366 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6796662211418152, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7057057023048401, + "covertype_val_precision": 0.7027011513710022, + "covertype_val_recall": 0.7057057023048401, + "covertype_val_f1-score": 0.6927977800369263, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7057057023048401 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6620112061500549, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7089999914169312, + "covertype_test_precision": 0.710400402545929, + "covertype_test_recall": 0.7089999914169312, + "covertype_test_f1-score": 0.6959847211837769, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7089999914169312 + }, + "5": { + "covertype_test_loss": 0.6497649550437927, + "covertype_test_accuracy": 0.7163158059120178, + "covertype_test_precision": 0.71895432472229, + "covertype_test_recall": 0.7163158059120178, + "covertype_test_f1-score": 0.7072969079017639, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7163158059120178 + }, + "10": { + "covertype_test_loss": 0.6369519829750061, + "covertype_test_accuracy": 0.7222222089767456, + "covertype_test_precision": 0.7256418466567993, + "covertype_test_recall": 0.7222222089767456, + "covertype_test_f1-score": 0.7140215039253235, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7222222089767456 + }, + "20": { + "covertype_test_loss": 0.6205607056617737, + "covertype_test_accuracy": 0.7174999713897705, + "covertype_test_precision": 0.7243959307670593, + "covertype_test_recall": 0.7174999713897705, + "covertype_test_f1-score": 0.7094604969024658, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7174999713897705 + }, + "50": { + "covertype_test_loss": 0.5852246880531311, + "covertype_test_accuracy": 0.7269999980926514, + "covertype_test_precision": 0.7313905358314514, + "covertype_test_recall": 0.7269999980926514, + "covertype_test_f1-score": 0.7210262417793274, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7269999980926514 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.7514351844787598, + "std": 0.19311263624459893, + "n": 5, + "ci95": 0.23974256758258905 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.6659000039100647, + "std": 0.10170632419287029, + "n": 5, + "ci95": 0.12626483577440098 + }, + "covertype_test_precision": { + "mean": 0.6848239421844482, + "std": 0.06497970570495804, + "n": 5, + "ci95": 0.0806700265162133 + }, + "covertype_test_recall": { + "mean": 0.6659000039100647, + "std": 0.10170632419287029, + "n": 5, + "ci95": 0.12626483577440098 + }, + "covertype_test_f1-score": { + "mean": 0.6402692317962646, + "std": 0.13047721615376404, + "n": 5, + "ci95": 0.1619828894682532 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6659000039100647, + "std": 0.10170632419287029, + "n": 5, + "ci95": 0.12626483577440098 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.7324891209602356, + "std": 0.19996239680494238, + "n": 5, + "ci95": 0.24824630517323895 + }, + "covertype_test_accuracy": { + "mean": 0.6722105264663696, + "std": 0.10462993529643803, + "n": 5, + "ci95": 0.12989439646091405 + }, + "covertype_test_precision": { + "mean": 0.6943425536155701, + "std": 0.056341265161064545, + "n": 5, + "ci95": 0.06994570543512463 + }, + "covertype_test_recall": { + "mean": 0.6722105264663696, + "std": 0.10462993529643803, + "n": 5, + "ci95": 0.12989439646091405 + }, + "covertype_test_f1-score": { + "mean": 0.6479474246501923, + "std": 0.13493197722963368, + "n": 5, + "ci95": 0.1675133191649574 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6722105264663696, + "std": 0.10462993529643803, + "n": 5, + "ci95": 0.12989439646091405 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.7190783858299256, + "std": 0.20301672164344778, + "n": 5, + "ci95": 0.25203814237899835 + }, + "covertype_test_accuracy": { + "mean": 0.6784444332122803, + "std": 0.10608813000049015, + "n": 5, + "ci95": 0.13170469406330396 + }, + "covertype_test_precision": { + "mean": 0.7014945983886719, + "std": 0.051833808879503736, + "n": 5, + "ci95": 0.06434985648799037 + }, + "covertype_test_recall": { + "mean": 0.6784444332122803, + "std": 0.10608813000049015, + "n": 5, + "ci95": 0.13170469406330396 + }, + "covertype_test_f1-score": { + "mean": 0.6545094132423401, + "std": 0.13689423495235728, + "n": 5, + "ci95": 0.16994939333313694 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6784444332122803, + "std": 0.10608813000049015, + "n": 5, + "ci95": 0.13170469406330396 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.7011969566345215, + "std": 0.19755858002064391, + "n": 5, + "ci95": 0.2452620509106857 + }, + "covertype_test_accuracy": { + "mean": 0.6799999952316285, + "std": 0.10058032964981269, + "n": 5, + "ci95": 0.12486695302531617 + }, + "covertype_test_precision": { + "mean": 0.7056012153625488, + "std": 0.0425388051185905, + "n": 5, + "ci95": 0.05281043519135067 + }, + "covertype_test_recall": { + "mean": 0.6799999952316285, + "std": 0.10058032964981269, + "n": 5, + "ci95": 0.12486695302531617 + }, + "covertype_test_f1-score": { + "mean": 0.6560967624187469, + "std": 0.1327309705580544, + "n": 5, + "ci95": 0.1647808465470472 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6799999952316285, + "std": 0.10058032964981269, + "n": 5, + "ci95": 0.12486695302531617 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6590939044952393, + "std": 0.18185091851150165, + "n": 5, + "ci95": 0.22576153984029584 + }, + "covertype_test_accuracy": { + "mean": 0.686599999666214, + "std": 0.10625581772954625, + "n": 5, + "ci95": 0.1319128724999811 + }, + "covertype_test_precision": { + "mean": 0.7205054521560669, + "std": 0.03561694784434572, + "n": 5, + "ci95": 0.04421719205802321 + }, + "covertype_test_recall": { + "mean": 0.686599999666214, + "std": 0.10625581772954625, + "n": 5, + "ci95": 0.1319128724999811 + }, + "covertype_test_f1-score": { + "mean": 0.6600694835186005, + "std": 0.14493449977173006, + "n": 5, + "ci95": 0.17993110022361133 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.686599999666214, + "std": 0.10625581772954625, + "n": 5, + "ci95": 0.1319128724999811 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..3a6701897d5f817f54bbb277934133b5f15369bf --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpaxifr4j1", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpaxifr4j1/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6122725009918213, + "lr": 0.0, + "covertype_val_accuracy": 0.7637637853622437, + "covertype_val_precision": 0.7607839703559875, + "covertype_val_recall": 0.7637637853622437, + "covertype_val_f1-score": 0.7616022229194641, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7637637853622437 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5542357563972473, + "lr": 0.0, + "covertype_test_accuracy": 0.7835000157356262, + "covertype_test_precision": 0.7847164273262024, + "covertype_test_recall": 0.7835000157356262, + "covertype_test_f1-score": 0.7834028601646423, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7835000157356262 + }, + "5": { + "covertype_test_loss": 0.5324819087982178, + "covertype_test_accuracy": 0.7915789484977722, + "covertype_test_precision": 0.792966902256012, + "covertype_test_recall": 0.7915789484977722, + "covertype_test_f1-score": 0.7916944622993469, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7915789484977722 + }, + "10": { + "covertype_test_loss": 0.49959856271743774, + "covertype_test_accuracy": 0.7983333468437195, + "covertype_test_precision": 0.7984630465507507, + "covertype_test_recall": 0.7983333468437195, + "covertype_test_f1-score": 0.797842264175415, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7983333468437195 + }, + "20": { + "covertype_test_loss": 0.4868333041667938, + "covertype_test_accuracy": 0.8018749952316284, + "covertype_test_precision": 0.801802933216095, + "covertype_test_recall": 0.8018749952316284, + "covertype_test_f1-score": 0.801439642906189, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8018749952316284 + }, + "50": { + "covertype_test_loss": 0.46792468428611755, + "covertype_test_accuracy": 0.7960000038146973, + "covertype_test_precision": 0.7946673035621643, + "covertype_test_recall": 0.7960000038146973, + "covertype_test_f1-score": 0.7949583530426025, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7960000038146973 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6093367338180542, + "lr": 0.0, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7440089583396912, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7481403946876526, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5724601149559021, + "lr": 0.0, + "covertype_test_accuracy": 0.7754999995231628, + "covertype_test_precision": 0.7739022970199585, + "covertype_test_recall": 0.7754999995231628, + "covertype_test_f1-score": 0.7719343304634094, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7754999995231628 + }, + "5": { + "covertype_test_loss": 0.5568836331367493, + "covertype_test_accuracy": 0.7810526490211487, + "covertype_test_precision": 0.7801064848899841, + "covertype_test_recall": 0.7810526490211487, + "covertype_test_f1-score": 0.7781272530555725, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7810526490211487 + }, + "10": { + "covertype_test_loss": 0.5336630344390869, + "covertype_test_accuracy": 0.7872222065925598, + "covertype_test_precision": 0.7864877581596375, + "covertype_test_recall": 0.7872222065925598, + "covertype_test_f1-score": 0.7843014597892761, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7872222065925598 + }, + "20": { + "covertype_test_loss": 0.5164843797683716, + "covertype_test_accuracy": 0.7918750047683716, + "covertype_test_precision": 0.7916464805603027, + "covertype_test_recall": 0.7918750047683716, + "covertype_test_f1-score": 0.7891927361488342, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7918750047683716 + }, + "50": { + "covertype_test_loss": 0.49099743366241455, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7931631207466125, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7894395589828491, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7910000085830688 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6123888492584229, + "lr": 0.0, + "covertype_val_accuracy": 0.7447447180747986, + "covertype_val_precision": 0.7479210495948792, + "covertype_val_recall": 0.7447447180747986, + "covertype_val_f1-score": 0.7407023906707764, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7447447180747986 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5682908296585083, + "lr": 0.0, + "covertype_test_accuracy": 0.7710000276565552, + "covertype_test_precision": 0.7780745625495911, + "covertype_test_recall": 0.7710000276565552, + "covertype_test_f1-score": 0.769730806350708, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7710000276565552 + }, + "5": { + "covertype_test_loss": 0.5502228736877441, + "covertype_test_accuracy": 0.7778947353363037, + "covertype_test_precision": 0.7859664559364319, + "covertype_test_recall": 0.7778947353363037, + "covertype_test_f1-score": 0.7773987650871277, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7778947353363037 + }, + "10": { + "covertype_test_loss": 0.5303711891174316, + "covertype_test_accuracy": 0.7838888764381409, + "covertype_test_precision": 0.7921580672264099, + "covertype_test_recall": 0.7838888764381409, + "covertype_test_f1-score": 0.783119261264801, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7838888764381409 + }, + "20": { + "covertype_test_loss": 0.5150622129440308, + "covertype_test_accuracy": 0.7881249785423279, + "covertype_test_precision": 0.7955504059791565, + "covertype_test_recall": 0.7881249785423279, + "covertype_test_f1-score": 0.7877060174942017, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7881249785423279 + }, + "50": { + "covertype_test_loss": 0.48829400539398193, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7864186763763428, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7788275480270386, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5984223484992981, + "lr": 0.0, + "covertype_val_accuracy": 0.7697697877883911, + "covertype_val_precision": 0.7601011991500854, + "covertype_val_recall": 0.7697697877883911, + "covertype_val_f1-score": 0.7635719180107117, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7697697877883911 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5706586837768555, + "lr": 0.0, + "covertype_test_accuracy": 0.7735000252723694, + "covertype_test_precision": 0.7707777619361877, + "covertype_test_recall": 0.7735000252723694, + "covertype_test_f1-score": 0.7711511254310608, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7735000252723694 + }, + "5": { + "covertype_test_loss": 0.5492050051689148, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.775716245174408, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.777351975440979, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7799999713897705 + }, + "10": { + "covertype_test_loss": 0.5229355096817017, + "covertype_test_accuracy": 0.7888888716697693, + "covertype_test_precision": 0.7836259603500366, + "covertype_test_recall": 0.7888888716697693, + "covertype_test_f1-score": 0.7853981256484985, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7888888716697693 + }, + "20": { + "covertype_test_loss": 0.5039175152778625, + "covertype_test_accuracy": 0.7912499904632568, + "covertype_test_precision": 0.7883164882659912, + "covertype_test_recall": 0.7912499904632568, + "covertype_test_f1-score": 0.7887051701545715, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7912499904632568 + }, + "50": { + "covertype_test_loss": 0.46525153517723083, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.7936536073684692, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7892533540725708, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7919999957084656 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5547722578048706, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.782782793045044, + "covertype_val_precision": 0.7749531865119934, + "covertype_val_recall": 0.782782793045044, + "covertype_val_f1-score": 0.7778100371360779, + "covertype_val_support": 999.0, + "covertype_val_score": 0.782782793045044 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.561450183391571, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7885000109672546, + "covertype_test_precision": 0.7858518958091736, + "covertype_test_recall": 0.7885000109672546, + "covertype_test_f1-score": 0.7853397727012634, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7885000109672546 + }, + "5": { + "covertype_test_loss": 0.5437910556793213, + "covertype_test_accuracy": 0.7952631711959839, + "covertype_test_precision": 0.7921163439750671, + "covertype_test_recall": 0.7952631711959839, + "covertype_test_f1-score": 0.79273921251297, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7952631711959839 + }, + "10": { + "covertype_test_loss": 0.5191307663917542, + "covertype_test_accuracy": 0.801111102104187, + "covertype_test_precision": 0.7984563708305359, + "covertype_test_recall": 0.801111102104187, + "covertype_test_f1-score": 0.798906147480011, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.801111102104187 + }, + "20": { + "covertype_test_loss": 0.5076339840888977, + "covertype_test_accuracy": 0.8043749928474426, + "covertype_test_precision": 0.8037284016609192, + "covertype_test_recall": 0.8043749928474426, + "covertype_test_f1-score": 0.8026329874992371, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8043749928474426 + }, + "50": { + "covertype_test_loss": 0.4847736954689026, + "covertype_test_accuracy": 0.8009999990463257, + "covertype_test_precision": 0.804431676864624, + "covertype_test_recall": 0.8009999990463257, + "covertype_test_f1-score": 0.7981094121932983, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8009999990463257 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5654191136360168, + "std": 0.00751823506842602, + "n": 5, + "ci95": 0.009333625256458731 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7784000158309936, + "std": 0.007334843689913724, + "n": 5, + "ci95": 0.009105951289534269 + }, + "covertype_test_precision": { + "mean": 0.7786645889282227, + "std": 0.006586192442252131, + "n": 5, + "ci95": 0.008176527012445726 + }, + "covertype_test_recall": { + "mean": 0.7784000158309936, + "std": 0.007334843689913724, + "n": 5, + "ci95": 0.009105951289534269 + }, + "covertype_test_f1-score": { + "mean": 0.7763117790222168, + "std": 0.007431212961445639, + "n": 5, + "ci95": 0.009225590361541247 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7784000158309936, + "std": 0.007334843689913724, + "n": 5, + "ci95": 0.009105951289534269 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5465168952941895, + "std": 0.009121958556096162, + "n": 5, + "ci95": 0.011324591741632471 + }, + "covertype_test_accuracy": { + "mean": 0.7851578950881958, + "std": 0.007738818447194538, + "n": 5, + "ci95": 0.009607471787790966 + }, + "covertype_test_precision": { + "mean": 0.7853744864463806, + "std": 0.007491350237214092, + "n": 5, + "ci95": 0.009300248681061518 + }, + "covertype_test_recall": { + "mean": 0.7851578950881958, + "std": 0.007738818447194538, + "n": 5, + "ci95": 0.009607471787790966 + }, + "covertype_test_f1-score": { + "mean": 0.7834623336791993, + "std": 0.008006167148608908, + "n": 5, + "ci95": 0.009939375827647626 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7851578950881958, + "std": 0.007738818447194538, + "n": 5, + "ci95": 0.009607471787790966 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5211398124694824, + "std": 0.013354171996202712, + "n": 5, + "ci95": 0.016578736350810343 + }, + "covertype_test_accuracy": { + "mean": 0.7918888807296753, + "std": 0.007439060443054527, + "n": 5, + "ci95": 0.009235332734834671 + }, + "covertype_test_precision": { + "mean": 0.7918382406234741, + "std": 0.006779734507209014, + "n": 5, + "ci95": 0.008416802700719322 + }, + "covertype_test_recall": { + "mean": 0.7918888807296753, + "std": 0.007439060443054527, + "n": 5, + "ci95": 0.009235332734834671 + }, + "covertype_test_f1-score": { + "mean": 0.7899134516716003, + "std": 0.0077746107762587035, + "n": 5, + "ci95": 0.009651906709484724 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7918888807296753, + "std": 0.007439060443054527, + "n": 5, + "ci95": 0.009235332734834671 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5059862792491913, + "std": 0.011899725386103812, + "n": 5, + "ci95": 0.014773091875659351 + }, + "covertype_test_accuracy": { + "mean": 0.7954999923706054, + "std": 0.0071589135914259475, + "n": 5, + "ci95": 0.008887540240176038 + }, + "covertype_test_precision": { + "mean": 0.7962089419364929, + "std": 0.006545524450738854, + "n": 5, + "ci95": 0.00812603912675672 + }, + "covertype_test_recall": { + "mean": 0.7954999923706054, + "std": 0.0071589135914259475, + "n": 5, + "ci95": 0.008887540240176038 + }, + "covertype_test_f1-score": { + "mean": 0.7939353108406066, + "std": 0.007426558100946509, + "n": 5, + "ci95": 0.00921981151542583 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7954999923706054, + "std": 0.0071589135914259475, + "n": 5, + "ci95": 0.008887540240176038 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4794482707977295, + "std": 0.011982598630093107, + "n": 5, + "ci95": 0.01487597610262794 + }, + "covertype_test_accuracy": { + "mean": 0.7919999957084656, + "std": 0.007778185566564425, + "n": 5, + "ci95": 0.009656344686321091 + }, + "covertype_test_precision": { + "mean": 0.7944668769836426, + "std": 0.006451203924254868, + "n": 5, + "ci95": 0.008008943499900013 + }, + "covertype_test_recall": { + "mean": 0.7919999957084656, + "std": 0.007778185566564425, + "n": 5, + "ci95": 0.009656344686321091 + }, + "covertype_test_f1-score": { + "mean": 0.7901176452636719, + "std": 0.007348025012518006, + "n": 5, + "ci95": 0.009122315439424919 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7919999957084656, + "std": 0.007778185566564425, + "n": 5, + "ci95": 0.009656344686321091 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..90aa8bac6cdce9333c14759bd1895ec1753628db --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9e44b8c02e6a32ace0d0fde448913cf1910c54222308cc8f0b19f747aee38448 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..ec235fb6c1b4e288dacacd6ef100bf71c03817cd --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:bd6ed809798ae9f0b969a592ba2d9aaa7719e48fcd25be590841da9bc1618f13 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..630b56a4513e30acdb2e2c984727ece416da2f10 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b1ece74b7b3ffa064f1baa864aa75c8562405ac393c53d9dadf8fa50ac8df8c4 +size 11498064 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..313573cb3e39bb0094a2f1e40acef0e54fec4594 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_181935/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.0005 +sw_s_y_weight: 0.0005 +sw_seed: 0 +sw_z_weight: 0.0005 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.0005 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..308703afd4803bb3d6908391519a8337bb3197ae --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T19:16:11.546355+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.001, + "sw_z_weight": 0.001, + "sw_s_y_weight": 0.001, + "lambda_joint": 0.0005, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..e5fc6fbf34cf114eb425d75921d744f40159c8da --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.001, + "sw_z_weight": 0.001, + "sw_s_y_weight": 0.001, + "lambda_joint": 0.0005, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.0005", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.001", + "--sw-z-end-weight", + "0.001", + "--sw-s-y-end-weight", + "0.001", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..c8b6564c704514a399fd395e93abad5f7e78f298 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.0005, + "s_x": 0.001, + "z": 0.001, + "s_y": 0.001 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.0005", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.001", + "--sw_z_weight", + "0.001", + "--sw_s_y_weight", + "0.001", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..01203fe0d24892811757577d1cf82e93f703ed94 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpboydm33t", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpboydm33t/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6453459858894348, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7277277112007141, + "covertype_val_precision": 0.7182892560958862, + "covertype_val_recall": 0.7277277112007141, + "covertype_val_f1-score": 0.7166860103607178, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7277277112007141 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6346918344497681, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7164999842643738, + "covertype_test_precision": 0.7055429220199585, + "covertype_test_recall": 0.7164999842643738, + "covertype_test_f1-score": 0.7060314416885376, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7164999842643738 + }, + "5": { + "covertype_test_loss": 0.6204776763916016, + "covertype_test_accuracy": 0.7236841917037964, + "covertype_test_precision": 0.7143561244010925, + "covertype_test_recall": 0.7236841917037964, + "covertype_test_f1-score": 0.7162603139877319, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7236841917037964 + }, + "10": { + "covertype_test_loss": 0.6098712086677551, + "covertype_test_accuracy": 0.7277777791023254, + "covertype_test_precision": 0.7162564992904663, + "covertype_test_recall": 0.7277777791023254, + "covertype_test_f1-score": 0.7200750708580017, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7277777791023254 + }, + "20": { + "covertype_test_loss": 0.5894322395324707, + "covertype_test_accuracy": 0.7331249713897705, + "covertype_test_precision": 0.7249414920806885, + "covertype_test_recall": 0.7331249713897705, + "covertype_test_f1-score": 0.7266833186149597, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7331249713897705 + }, + "50": { + "covertype_test_loss": 0.5480051040649414, + "covertype_test_accuracy": 0.7450000047683716, + "covertype_test_precision": 0.7336302399635315, + "covertype_test_recall": 0.7450000047683716, + "covertype_test_f1-score": 0.7389651536941528, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7450000047683716 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.707011342048645, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7277277112007141, + "covertype_val_precision": 0.7187225222587585, + "covertype_val_recall": 0.7277277112007141, + "covertype_val_f1-score": 0.7174098491668701, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7277277112007141 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.729522705078125, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7055000066757202, + "covertype_test_precision": 0.704376220703125, + "covertype_test_recall": 0.7055000066757202, + "covertype_test_f1-score": 0.6955301761627197, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7055000066757202 + }, + "5": { + "covertype_test_loss": 0.6983067393302917, + "covertype_test_accuracy": 0.7126315832138062, + "covertype_test_precision": 0.7105824947357178, + "covertype_test_recall": 0.7126315832138062, + "covertype_test_f1-score": 0.7047398686408997, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7126315832138062 + }, + "10": { + "covertype_test_loss": 0.6818661093711853, + "covertype_test_accuracy": 0.7211111187934875, + "covertype_test_precision": 0.7174656987190247, + "covertype_test_recall": 0.7211111187934875, + "covertype_test_f1-score": 0.7126534581184387, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7211111187934875 + }, + "20": { + "covertype_test_loss": 0.6626592874526978, + "covertype_test_accuracy": 0.7262499928474426, + "covertype_test_precision": 0.7223488688468933, + "covertype_test_recall": 0.7262499928474426, + "covertype_test_f1-score": 0.7166115045547485, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7262499928474426 + }, + "50": { + "covertype_test_loss": 0.5920798182487488, + "covertype_test_accuracy": 0.734000027179718, + "covertype_test_precision": 0.7331146001815796, + "covertype_test_recall": 0.734000027179718, + "covertype_test_f1-score": 0.7202123999595642, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.734000027179718 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6519482135772705, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7347347140312195, + "covertype_val_precision": 0.719637930393219, + "covertype_val_recall": 0.7347347140312195, + "covertype_val_f1-score": 0.7219289541244507, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7347347140312195 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6510025262832642, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7254999876022339, + "covertype_test_precision": 0.7133480906486511, + "covertype_test_recall": 0.7254999876022339, + "covertype_test_f1-score": 0.7155811786651611, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7254999876022339 + }, + "5": { + "covertype_test_loss": 0.6351616382598877, + "covertype_test_accuracy": 0.7331578731536865, + "covertype_test_precision": 0.7193215489387512, + "covertype_test_recall": 0.7331578731536865, + "covertype_test_f1-score": 0.7246541976928711, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7331578731536865 + }, + "10": { + "covertype_test_loss": 0.6241024732589722, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7249591946601868, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7307343482971191, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7400000095367432 + }, + "20": { + "covertype_test_loss": 0.604377031326294, + "covertype_test_accuracy": 0.7450000047683716, + "covertype_test_precision": 0.7314183712005615, + "covertype_test_recall": 0.7450000047683716, + "covertype_test_f1-score": 0.7368673086166382, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7450000047683716 + }, + "50": { + "covertype_test_loss": 0.5736739039421082, + "covertype_test_accuracy": 0.753000020980835, + "covertype_test_precision": 0.7427045702934265, + "covertype_test_recall": 0.753000020980835, + "covertype_test_f1-score": 0.7434538006782532, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.753000020980835 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6698302626609802, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7207207083702087, + "covertype_val_precision": 0.729613184928894, + "covertype_val_recall": 0.7207207083702087, + "covertype_val_f1-score": 0.7194828391075134, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7207207083702087 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6647971272468567, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7129999995231628, + "covertype_test_precision": 0.7316286563873291, + "covertype_test_recall": 0.7129999995231628, + "covertype_test_f1-score": 0.7115371823310852, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7129999995231628 + }, + "5": { + "covertype_test_loss": 0.6497681140899658, + "covertype_test_accuracy": 0.7210526466369629, + "covertype_test_precision": 0.7410963773727417, + "covertype_test_recall": 0.7210526466369629, + "covertype_test_f1-score": 0.7191702723503113, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7210526466369629 + }, + "10": { + "covertype_test_loss": 0.628860354423523, + "covertype_test_accuracy": 0.726111114025116, + "covertype_test_precision": 0.7423809170722961, + "covertype_test_recall": 0.726111114025116, + "covertype_test_f1-score": 0.7240124940872192, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.726111114025116 + }, + "20": { + "covertype_test_loss": 0.6021227240562439, + "covertype_test_accuracy": 0.7356250286102295, + "covertype_test_precision": 0.7477462887763977, + "covertype_test_recall": 0.7356250286102295, + "covertype_test_f1-score": 0.7326562404632568, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7356250286102295 + }, + "50": { + "covertype_test_loss": 0.5456147193908691, + "covertype_test_accuracy": 0.7509999871253967, + "covertype_test_precision": 0.7421809434890747, + "covertype_test_recall": 0.7509999871253967, + "covertype_test_f1-score": 0.7451396584510803, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7509999871253967 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.866409420967102, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.620620608329773, + "covertype_val_precision": 0.6378260850906372, + "covertype_val_recall": 0.620620608329773, + "covertype_val_f1-score": 0.5430131554603577, + "covertype_val_support": 999.0, + "covertype_val_score": 0.620620608329773 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.8859972357749939, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6110000014305115, + "covertype_test_precision": 0.6459262371063232, + "covertype_test_recall": 0.6110000014305115, + "covertype_test_f1-score": 0.5331166982650757, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6110000014305115 + }, + "5": { + "covertype_test_loss": 0.8605461716651917, + "covertype_test_accuracy": 0.6147368550300598, + "covertype_test_precision": 0.6563116312026978, + "covertype_test_recall": 0.6147368550300598, + "covertype_test_f1-score": 0.5372583270072937, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6147368550300598 + }, + "10": { + "covertype_test_loss": 0.8454471230506897, + "covertype_test_accuracy": 0.6194444298744202, + "covertype_test_precision": 0.6652601361274719, + "covertype_test_recall": 0.6194444298744202, + "covertype_test_f1-score": 0.5402841567993164, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6194444298744202 + }, + "20": { + "covertype_test_loss": 0.8325279355049133, + "covertype_test_accuracy": 0.6212499737739563, + "covertype_test_precision": 0.6677179336547852, + "covertype_test_recall": 0.6212499737739563, + "covertype_test_f1-score": 0.5431603193283081, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6212499737739563 + }, + "50": { + "covertype_test_loss": 0.8275224566459656, + "covertype_test_accuracy": 0.6169999837875366, + "covertype_test_precision": 0.6727376580238342, + "covertype_test_recall": 0.6169999837875366, + "covertype_test_f1-score": 0.5420442223548889, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6169999837875366 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.7132022857666016, + "std": 0.10307789682078584, + "n": 5, + "ci95": 0.12796759510614136 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.6942999958992004, + "std": 0.047117667655289255, + "n": 5, + "ci95": 0.05849493250081448 + }, + "covertype_test_precision": { + "mean": 0.7001644253730774, + "std": 0.03221899818414268, + "n": 5, + "ci95": 0.03999875668323168 + }, + "covertype_test_recall": { + "mean": 0.6942999958992004, + "std": 0.047117667655289255, + "n": 5, + "ci95": 0.05849493250081448 + }, + "covertype_test_f1-score": { + "mean": 0.6723593354225159, + "std": 0.07820204924623106, + "n": 5, + "ci95": 0.09708510246198802 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6942999958992004, + "std": 0.047117667655289255, + "n": 5, + "ci95": 0.05849493250081448 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6928520679473877, + "std": 0.09820072704949816, + "n": 5, + "ci95": 0.12191275982325654 + }, + "covertype_test_accuracy": { + "mean": 0.7010526299476624, + "std": 0.04880425200425096, + "n": 5, + "ci95": 0.06058876784027171 + }, + "covertype_test_precision": { + "mean": 0.7083336353302002, + "std": 0.031391671539963355, + "n": 5, + "ci95": 0.03897165965963862 + }, + "covertype_test_recall": { + "mean": 0.7010526299476624, + "std": 0.04880425200425096, + "n": 5, + "ci95": 0.06058876784027171 + }, + "covertype_test_f1-score": { + "mean": 0.6804165959358215, + "std": 0.08035778824472684, + "n": 5, + "ci95": 0.09976137685079954 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7010526299476624, + "std": 0.04880425200425096, + "n": 5, + "ci95": 0.06058876784027171 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.678029453754425, + "std": 0.09748674505615967, + "n": 5, + "ci95": 0.12102637620994448 + }, + "covertype_test_accuracy": { + "mean": 0.7068888902664184, + "std": 0.049373553700047555, + "n": 5, + "ci95": 0.061295535936516446 + }, + "covertype_test_precision": { + "mean": 0.7132644891738892, + "std": 0.02879041814371266, + "n": 5, + "ci95": 0.03574229476525557 + }, + "covertype_test_recall": { + "mean": 0.7068888902664184, + "std": 0.049373553700047555, + "n": 5, + "ci95": 0.061295535936516446 + }, + "covertype_test_f1-score": { + "mean": 0.6855519056320191, + "std": 0.08147044237762117, + "n": 5, + "ci95": 0.10114269794836665 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7068888902664184, + "std": 0.049373553700047555, + "n": 5, + "ci95": 0.061295535936516446 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6582238435745239, + "std": 0.10146512850882954, + "n": 5, + "ci95": 0.12596539978871785 + }, + "covertype_test_accuracy": { + "mean": 0.7122499942779541, + "std": 0.05131209355076557, + "n": 5, + "ci95": 0.06370216519812337 + }, + "covertype_test_precision": { + "mean": 0.7188345909118652, + "std": 0.03023571910916123, + "n": 5, + "ci95": 0.03753658524320934 + }, + "covertype_test_recall": { + "mean": 0.7122499942779541, + "std": 0.05131209355076557, + "n": 5, + "ci95": 0.06370216519812337 + }, + "covertype_test_f1-score": { + "mean": 0.6911957383155822, + "std": 0.0831033699314717, + "n": 5, + "ci95": 0.10316992025784114 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7122499942779541, + "std": 0.05131209355076557, + "n": 5, + "ci95": 0.06370216519812337 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6173792004585266, + "std": 0.11903077942089255, + "n": 5, + "ci95": 0.14777253956378378 + }, + "covertype_test_accuracy": { + "mean": 0.7200000047683716, + "std": 0.05805171170114056, + "n": 5, + "ci95": 0.07206916484826827 + }, + "covertype_test_precision": { + "mean": 0.7248736023902893, + "std": 0.029496766405148898, + "n": 5, + "ci95": 0.03661920136804116 + }, + "covertype_test_recall": { + "mean": 0.7200000047683716, + "std": 0.05805171170114056, + "n": 5, + "ci95": 0.07206916484826827 + }, + "covertype_test_f1-score": { + "mean": 0.6979630470275879, + "std": 0.08772389594262867, + "n": 5, + "ci95": 0.10890614131016957 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7200000047683716, + "std": 0.05805171170114056, + "n": 5, + "ci95": 0.07206916484826827 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..e365b367b828b22de50128dfcf7263e9f6651a87 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmplj5i5jyk", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmplj5i5jyk/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5597273707389832, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7727727890014648, + "covertype_val_precision": 0.7643415331840515, + "covertype_val_recall": 0.7727727890014648, + "covertype_val_f1-score": 0.7645723819732666, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7727727890014648 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5546290278434753, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7770000100135803, + "covertype_test_precision": 0.7764801383018494, + "covertype_test_recall": 0.7770000100135803, + "covertype_test_f1-score": 0.7705616354942322, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7770000100135803 + }, + "5": { + "covertype_test_loss": 0.5222823023796082, + "covertype_test_accuracy": 0.785263180732727, + "covertype_test_precision": 0.7861467003822327, + "covertype_test_recall": 0.785263180732727, + "covertype_test_f1-score": 0.7808826565742493, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.785263180732727 + }, + "10": { + "covertype_test_loss": 0.5068382024765015, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7890645265579224, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7856273055076599, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7900000214576721 + }, + "20": { + "covertype_test_loss": 0.4905567169189453, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7943283319473267, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7910951972007751, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7950000166893005 + }, + "50": { + "covertype_test_loss": 0.46341070532798767, + "covertype_test_accuracy": 0.7960000038146973, + "covertype_test_precision": 0.8003883361816406, + "covertype_test_recall": 0.7960000038146973, + "covertype_test_f1-score": 0.7902591228485107, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7960000038146973 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6045569181442261, + "lr": 0.0, + "covertype_val_accuracy": 0.7677677869796753, + "covertype_val_precision": 0.7536024451255798, + "covertype_val_recall": 0.7677677869796753, + "covertype_val_f1-score": 0.7594142556190491, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7677677869796753 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5529454946517944, + "lr": 0.0, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7821054458618164, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7823814153671265, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7850000262260437 + }, + "5": { + "covertype_test_loss": 0.5329414010047913, + "covertype_test_accuracy": 0.793684184551239, + "covertype_test_precision": 0.7904852628707886, + "covertype_test_recall": 0.793684184551239, + "covertype_test_f1-score": 0.791276752948761, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.793684184551239 + }, + "10": { + "covertype_test_loss": 0.5186981558799744, + "covertype_test_accuracy": 0.7977777719497681, + "covertype_test_precision": 0.7947516441345215, + "covertype_test_recall": 0.7977777719497681, + "covertype_test_f1-score": 0.7955000400543213, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7977777719497681 + }, + "20": { + "covertype_test_loss": 0.4914480149745941, + "covertype_test_accuracy": 0.7993749976158142, + "covertype_test_precision": 0.798569917678833, + "covertype_test_recall": 0.7993749976158142, + "covertype_test_f1-score": 0.798312783241272, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7993749976158142 + }, + "50": { + "covertype_test_loss": 0.45440635085105896, + "covertype_test_accuracy": 0.7979999780654907, + "covertype_test_precision": 0.7986224293708801, + "covertype_test_recall": 0.7979999780654907, + "covertype_test_f1-score": 0.797919750213623, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7979999780654907 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5886178016662598, + "lr": 0.0, + "covertype_val_accuracy": 0.7517517805099487, + "covertype_val_precision": 0.7524292469024658, + "covertype_val_recall": 0.7517517805099487, + "covertype_val_f1-score": 0.7492618560791016, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7517517805099487 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5662094950675964, + "lr": 0.0, + "covertype_test_accuracy": 0.7720000147819519, + "covertype_test_precision": 0.7763367295265198, + "covertype_test_recall": 0.7720000147819519, + "covertype_test_f1-score": 0.7713524699211121, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7720000147819519 + }, + "5": { + "covertype_test_loss": 0.5466107130050659, + "covertype_test_accuracy": 0.7789473533630371, + "covertype_test_precision": 0.7853756546974182, + "covertype_test_recall": 0.7789473533630371, + "covertype_test_f1-score": 0.7787256836891174, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7789473533630371 + }, + "10": { + "covertype_test_loss": 0.5312623381614685, + "covertype_test_accuracy": 0.7844444513320923, + "covertype_test_precision": 0.7889825105667114, + "covertype_test_recall": 0.7844444513320923, + "covertype_test_f1-score": 0.7835941910743713, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7844444513320923 + }, + "20": { + "covertype_test_loss": 0.4957030415534973, + "covertype_test_accuracy": 0.7906249761581421, + "covertype_test_precision": 0.7955967783927917, + "covertype_test_recall": 0.7906249761581421, + "covertype_test_f1-score": 0.7905126214027405, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7906249761581421 + }, + "50": { + "covertype_test_loss": 0.4708622097969055, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7886866331100464, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7850550413131714, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7860000133514404 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5925541520118713, + "lr": 0.0, + "covertype_val_accuracy": 0.7757757902145386, + "covertype_val_precision": 0.7723868489265442, + "covertype_val_recall": 0.7757757902145386, + "covertype_val_f1-score": 0.7733564376831055, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7757757902145386 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5631797909736633, + "lr": 0.0, + "covertype_test_accuracy": 0.7829999923706055, + "covertype_test_precision": 0.7861107587814331, + "covertype_test_recall": 0.7829999923706055, + "covertype_test_f1-score": 0.7832680940628052, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7829999923706055 + }, + "5": { + "covertype_test_loss": 0.5377051830291748, + "covertype_test_accuracy": 0.7884210348129272, + "covertype_test_precision": 0.7913227677345276, + "covertype_test_recall": 0.7884210348129272, + "covertype_test_f1-score": 0.788278341293335, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7884210348129272 + }, + "10": { + "covertype_test_loss": 0.5218659043312073, + "covertype_test_accuracy": 0.7933333516120911, + "covertype_test_precision": 0.7949379086494446, + "covertype_test_recall": 0.7933333516120911, + "covertype_test_f1-score": 0.7929303050041199, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7933333516120911 + }, + "20": { + "covertype_test_loss": 0.49229612946510315, + "covertype_test_accuracy": 0.8031250238418579, + "covertype_test_precision": 0.8053607940673828, + "covertype_test_recall": 0.8031250238418579, + "covertype_test_f1-score": 0.8032189011573792, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8031250238418579 + }, + "50": { + "covertype_test_loss": 0.44831550121307373, + "covertype_test_accuracy": 0.8090000152587891, + "covertype_test_precision": 0.8099561333656311, + "covertype_test_recall": 0.8090000152587891, + "covertype_test_f1-score": 0.809128999710083, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8090000152587891 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5793064832687378, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7787787914276123, + "covertype_val_precision": 0.7736737132072449, + "covertype_val_recall": 0.7787787914276123, + "covertype_val_f1-score": 0.7752134799957275, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7787787914276123 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5602161288261414, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7868403792381287, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7853519916534424, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7870000004768372 + }, + "5": { + "covertype_test_loss": 0.5334645509719849, + "covertype_test_accuracy": 0.793684184551239, + "covertype_test_precision": 0.7951241135597229, + "covertype_test_recall": 0.793684184551239, + "covertype_test_f1-score": 0.7925277352333069, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.793684184551239 + }, + "10": { + "covertype_test_loss": 0.5229654312133789, + "covertype_test_accuracy": 0.79666668176651, + "covertype_test_precision": 0.796349048614502, + "covertype_test_recall": 0.79666668176651, + "covertype_test_f1-score": 0.7951415181159973, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.79666668176651 + }, + "20": { + "covertype_test_loss": 0.5026625990867615, + "covertype_test_accuracy": 0.8025000095367432, + "covertype_test_precision": 0.803266704082489, + "covertype_test_recall": 0.8025000095367432, + "covertype_test_f1-score": 0.8011516332626343, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8025000095367432 + }, + "50": { + "covertype_test_loss": 0.45987415313720703, + "covertype_test_accuracy": 0.8019999861717224, + "covertype_test_precision": 0.8049002289772034, + "covertype_test_recall": 0.8019999861717224, + "covertype_test_f1-score": 0.799495279788971, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8019999861717224 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5594359874725342, + "std": 0.005606657833739203, + "n": 5, + "ci95": 0.006960469137375091 + }, + "lr": { + "mean": 0.0003000000491738319, + "std": 0.0004472136688039785, + "n": 5, + "ci95": 0.0005552000910043715 + }, + "covertype_test_accuracy": { + "mean": 0.7808000087738037, + "std": 0.006180611951443969, + "n": 5, + "ci95": 0.0076730130523100645 + }, + "covertype_test_precision": { + "mean": 0.7815746903419495, + "std": 0.005049153192718523, + "n": 5, + "ci95": 0.006268346671042981 + }, + "covertype_test_recall": { + "mean": 0.7808000087738037, + "std": 0.006180611951443969, + "n": 5, + "ci95": 0.0076730130523100645 + }, + "covertype_test_f1-score": { + "mean": 0.7785831212997436, + "std": 0.00705018027013236, + "n": 5, + "ci95": 0.00875255163385983 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7808000087738037, + "std": 0.006180611951443969, + "n": 5, + "ci95": 0.0076730130523100645 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.534600830078125, + "std": 0.00879865408569858, + "n": 5, + "ci95": 0.010923220576330423 + }, + "covertype_test_accuracy": { + "mean": 0.7879999876022339, + "std": 0.006209624972038341, + "n": 5, + "ci95": 0.007709031700213619 + }, + "covertype_test_precision": { + "mean": 0.789690899848938, + "std": 0.003999890848856774, + "n": 5, + "ci95": 0.004965724257113935 + }, + "covertype_test_recall": { + "mean": 0.7879999876022339, + "std": 0.006209624972038341, + "n": 5, + "ci95": 0.007709031700213619 + }, + "covertype_test_f1-score": { + "mean": 0.7863382339477539, + "std": 0.006208404757224466, + "n": 5, + "ci95": 0.007707516846301573 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7879999876022339, + "std": 0.006209624972038341, + "n": 5, + "ci95": 0.007709031700213619 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5203260064125061, + "std": 0.008853134379630919, + "n": 5, + "ci95": 0.010990855951228673 + }, + "covertype_test_accuracy": { + "mean": 0.7924444556236268, + "std": 0.005409180154397163, + "n": 5, + "ci95": 0.0067153075218206034 + }, + "covertype_test_precision": { + "mean": 0.7928171277046203, + "std": 0.0035178414868953997, + "n": 5, + "ci95": 0.004367276874355465 + }, + "covertype_test_recall": { + "mean": 0.7924444556236268, + "std": 0.005409180154397163, + "n": 5, + "ci95": 0.0067153075218206034 + }, + "covertype_test_f1-score": { + "mean": 0.7905586719512939, + "std": 0.0055647688613865475, + "n": 5, + "ci95": 0.006908465446780232 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7924444556236268, + "std": 0.005409180154397163, + "n": 5, + "ci95": 0.0067153075218206034 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.4945333003997803, + "std": 0.004944464774743908, + "n": 5, + "ci95": 0.006138379670387448 + }, + "covertype_test_accuracy": { + "mean": 0.7981250047683716, + "std": 0.005284868002745101, + "n": 5, + "ci95": 0.006560978343790883 + }, + "covertype_test_precision": { + "mean": 0.7994245052337646, + "std": 0.004778985560054328, + "n": 5, + "ci95": 0.00593294302686827 + }, + "covertype_test_recall": { + "mean": 0.7981250047683716, + "std": 0.005284868002745101, + "n": 5, + "ci95": 0.006560978343790883 + }, + "covertype_test_f1-score": { + "mean": 0.7968582272529602, + "std": 0.005798415080738144, + "n": 5, + "ci95": 0.007198529036727641 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7981250047683716, + "std": 0.005284868002745101, + "n": 5, + "ci95": 0.006560978343790883 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4593737840652466, + "std": 0.008594940963404917, + "n": 5, + "ci95": 0.010670317876959217 + }, + "covertype_test_accuracy": { + "mean": 0.798199999332428, + "std": 0.008438007624878325, + "n": 5, + "ci95": 0.010475490639087438 + }, + "covertype_test_precision": { + "mean": 0.8005107522010804, + "std": 0.007935257916154933, + "n": 5, + "ci95": 0.009851344501555146 + }, + "covertype_test_recall": { + "mean": 0.798199999332428, + "std": 0.008438007624878325, + "n": 5, + "ci95": 0.010475490639087438 + }, + "covertype_test_f1-score": { + "mean": 0.7963716387748718, + "std": 0.009224048315452245, + "n": 5, + "ci95": 0.011451332598719189 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.798199999332428, + "std": 0.008438007624878325, + "n": 5, + "ci95": 0.010475490639087438 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..c62db918407ee0d1bc7fe1b7bf6e2f3946da6e47 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:c5178851010a9de0ef42c89147b94b251347579f3d84c2c6b9562946a7660a3d +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..a532a1e2b2c0f825c4f49ed1194f34ca00fc9a06 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:329a99e6fb107ec6594c7cf74f04e468912576526aebb45a607e192d717f2931 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..0e795461174a3a89aab2020584f5473ecd4cfe0d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:3251a26ce6f67e1e9f50e247384913bb139ae25c58df008ce511d6e915d7d4cc +size 11493776 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..b848cf0af7d1b1e4adc94473df60307640934e5d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_185602/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.001 +sw_s_y_weight: 0.001 +sw_seed: 0 +sw_z_weight: 0.001 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.0005 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..6f8d139fa6d01f069f2aaba12f8ed37d344b148f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T18:59:01.176520+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.002, + "sw_z_weight": 0.002, + "sw_s_y_weight": 0.002, + "lambda_joint": 0.0005, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..17abd7ce46508050a1817f10e437f149e5daedbe --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.002, + "sw_z_weight": 0.002, + "sw_s_y_weight": 0.002, + "lambda_joint": 0.0005, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.0005", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.002", + "--sw-z-end-weight", + "0.002", + "--sw-s-y-end-weight", + "0.002", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..b790fd1f01d4a11cde0dc0a7975528893dd0ee4b --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.0005, + "s_x": 0.002, + "z": 0.002, + "s_y": 0.002 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.0005", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.002", + "--sw_z_weight", + "0.002", + "--sw_s_y_weight", + "0.002", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..5a75d799da59db756993668ec461f508d68a4a78 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpoe2q6mgs", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpoe2q6mgs/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6686112284660339, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7117117047309875, + "covertype_val_precision": 0.7093027830123901, + "covertype_val_recall": 0.7117117047309875, + "covertype_val_f1-score": 0.696723461151123, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7117117047309875 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.656744122505188, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7045000195503235, + "covertype_test_precision": 0.7068943977355957, + "covertype_test_recall": 0.7045000195503235, + "covertype_test_f1-score": 0.6958053708076477, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7045000195503235 + }, + "5": { + "covertype_test_loss": 0.6434381008148193, + "covertype_test_accuracy": 0.711052656173706, + "covertype_test_precision": 0.7156673073768616, + "covertype_test_recall": 0.711052656173706, + "covertype_test_f1-score": 0.7037421464920044, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.711052656173706 + }, + "10": { + "covertype_test_loss": 0.6319997906684875, + "covertype_test_accuracy": 0.7188888788223267, + "covertype_test_precision": 0.72640460729599, + "covertype_test_recall": 0.7188888788223267, + "covertype_test_f1-score": 0.7124452590942383, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7188888788223267 + }, + "20": { + "covertype_test_loss": 0.6136139035224915, + "covertype_test_accuracy": 0.7212499976158142, + "covertype_test_precision": 0.7316626906394958, + "covertype_test_recall": 0.7212499976158142, + "covertype_test_f1-score": 0.7162799835205078, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7212499976158142 + }, + "50": { + "covertype_test_loss": 0.5735032558441162, + "covertype_test_accuracy": 0.7319999933242798, + "covertype_test_precision": 0.7319602370262146, + "covertype_test_recall": 0.7319999933242798, + "covertype_test_f1-score": 0.7266808748245239, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7319999933242798 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.8132014274597168, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6346346139907837, + "covertype_val_precision": 0.6806631088256836, + "covertype_val_recall": 0.6346346139907837, + "covertype_val_f1-score": 0.6236281394958496, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6346346139907837 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7921715974807739, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6625000238418579, + "covertype_test_precision": 0.7016723155975342, + "covertype_test_recall": 0.6625000238418579, + "covertype_test_f1-score": 0.6505280137062073, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6625000238418579 + }, + "5": { + "covertype_test_loss": 0.7842456102371216, + "covertype_test_accuracy": 0.6631578803062439, + "covertype_test_precision": 0.7058084607124329, + "covertype_test_recall": 0.6631578803062439, + "covertype_test_f1-score": 0.6511940360069275, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6631578803062439 + }, + "10": { + "covertype_test_loss": 0.7738173007965088, + "covertype_test_accuracy": 0.6688888669013977, + "covertype_test_precision": 0.7094234824180603, + "covertype_test_recall": 0.6688888669013977, + "covertype_test_f1-score": 0.6547770500183105, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6688888669013977 + }, + "20": { + "covertype_test_loss": 0.7604097723960876, + "covertype_test_accuracy": 0.671875, + "covertype_test_precision": 0.7148948311805725, + "covertype_test_recall": 0.671875, + "covertype_test_f1-score": 0.6567915678024292, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.671875 + }, + "50": { + "covertype_test_loss": 0.6960300207138062, + "covertype_test_accuracy": 0.6850000023841858, + "covertype_test_precision": 0.7293329834938049, + "covertype_test_recall": 0.6850000023841858, + "covertype_test_f1-score": 0.6715406775474548, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6850000023841858 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.613762378692627, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.7245005965232849, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.730731189250946, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6193180680274963, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7239999771118164, + "covertype_test_precision": 0.7128506302833557, + "covertype_test_recall": 0.7239999771118164, + "covertype_test_f1-score": 0.7157099843025208, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7239999771118164 + }, + "5": { + "covertype_test_loss": 0.6034002900123596, + "covertype_test_accuracy": 0.7289473414421082, + "covertype_test_precision": 0.7182009816169739, + "covertype_test_recall": 0.7289473414421082, + "covertype_test_f1-score": 0.7202249765396118, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7289473414421082 + }, + "10": { + "covertype_test_loss": 0.5953988432884216, + "covertype_test_accuracy": 0.7350000143051147, + "covertype_test_precision": 0.7233237028121948, + "covertype_test_recall": 0.7350000143051147, + "covertype_test_f1-score": 0.7251908183097839, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7350000143051147 + }, + "20": { + "covertype_test_loss": 0.5831083059310913, + "covertype_test_accuracy": 0.7356250286102295, + "covertype_test_precision": 0.7242758274078369, + "covertype_test_recall": 0.7356250286102295, + "covertype_test_f1-score": 0.7256824970245361, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7356250286102295 + }, + "50": { + "covertype_test_loss": 0.5471540689468384, + "covertype_test_accuracy": 0.7409999966621399, + "covertype_test_precision": 0.7354440689086914, + "covertype_test_recall": 0.7409999966621399, + "covertype_test_f1-score": 0.7303690314292908, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7409999966621399 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6518303155899048, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7307307124137878, + "covertype_val_precision": 0.7329765558242798, + "covertype_val_recall": 0.7307307124137878, + "covertype_val_f1-score": 0.7145074605941772, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7307307124137878 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6469928622245789, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.718999981880188, + "covertype_test_precision": 0.7087370157241821, + "covertype_test_recall": 0.718999981880188, + "covertype_test_f1-score": 0.7004169821739197, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.718999981880188 + }, + "5": { + "covertype_test_loss": 0.6210670471191406, + "covertype_test_accuracy": 0.7289473414421082, + "covertype_test_precision": 0.7194870710372925, + "covertype_test_recall": 0.7289473414421082, + "covertype_test_f1-score": 0.7131924629211426, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7289473414421082 + }, + "10": { + "covertype_test_loss": 0.610183835029602, + "covertype_test_accuracy": 0.7338888645172119, + "covertype_test_precision": 0.7193049788475037, + "covertype_test_recall": 0.7338888645172119, + "covertype_test_f1-score": 0.7193825244903564, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7338888645172119 + }, + "20": { + "covertype_test_loss": 0.5911653637886047, + "covertype_test_accuracy": 0.7356250286102295, + "covertype_test_precision": 0.7205261588096619, + "covertype_test_recall": 0.7356250286102295, + "covertype_test_f1-score": 0.723039984703064, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7356250286102295 + }, + "50": { + "covertype_test_loss": 0.5583685040473938, + "covertype_test_accuracy": 0.7429999709129333, + "covertype_test_precision": 0.7393931150436401, + "covertype_test_recall": 0.7429999709129333, + "covertype_test_f1-score": 0.7311831116676331, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7429999709129333 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6423534750938416, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7247247099876404, + "covertype_val_precision": 0.712309718132019, + "covertype_val_recall": 0.7247247099876404, + "covertype_val_f1-score": 0.7152814269065857, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7247247099876404 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6321837306022644, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7179999947547913, + "covertype_test_precision": 0.7071405053138733, + "covertype_test_recall": 0.7179999947547913, + "covertype_test_f1-score": 0.7077698707580566, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7179999947547913 + }, + "5": { + "covertype_test_loss": 0.6164084076881409, + "covertype_test_accuracy": 0.7252631783485413, + "covertype_test_precision": 0.7125168442726135, + "covertype_test_recall": 0.7252631783485413, + "covertype_test_f1-score": 0.7172123789787292, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7252631783485413 + }, + "10": { + "covertype_test_loss": 0.6063881516456604, + "covertype_test_accuracy": 0.7311111092567444, + "covertype_test_precision": 0.7177834510803223, + "covertype_test_recall": 0.7311111092567444, + "covertype_test_f1-score": 0.7233331203460693, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7311111092567444 + }, + "20": { + "covertype_test_loss": 0.5953025221824646, + "covertype_test_accuracy": 0.7306249737739563, + "covertype_test_precision": 0.7166262865066528, + "covertype_test_recall": 0.7306249737739563, + "covertype_test_f1-score": 0.72284996509552, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7306249737739563 + }, + "50": { + "covertype_test_loss": 0.5583922266960144, + "covertype_test_accuracy": 0.7440000176429749, + "covertype_test_precision": 0.7332716584205627, + "covertype_test_recall": 0.7440000176429749, + "covertype_test_f1-score": 0.7364373207092285, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7440000176429749 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6694820761680603, + "std": 0.07005057662490735, + "n": 5, + "ci95": 0.08696533498421385 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7055999994277954, + "std": 0.025153013953827037, + "n": 5, + "ci95": 0.031226584986873644 + }, + "covertype_test_precision": { + "mean": 0.7074589729309082, + "std": 0.004018984083564966, + "n": 5, + "ci95": 0.0049894278386165 + }, + "covertype_test_recall": { + "mean": 0.7055999994277954, + "std": 0.025153013953827037, + "n": 5, + "ci95": 0.031226584986873644 + }, + "covertype_test_f1-score": { + "mean": 0.6940460443496704, + "std": 0.02547141915461234, + "n": 5, + "ci95": 0.03162187388071502 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7055999994277954, + "std": 0.025153013953827037, + "n": 5, + "ci95": 0.031226584986873644 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6537118911743164, + "std": 0.07438597904811795, + "n": 5, + "ci95": 0.09234758509822398 + }, + "covertype_test_accuracy": { + "mean": 0.7114736795425415, + "std": 0.027997328953851677, + "n": 5, + "ci95": 0.0347577023408715 + }, + "covertype_test_precision": { + "mean": 0.7143361330032348, + "std": 0.0054605917453033476, + "n": 5, + "ci95": 0.006779133209497213 + }, + "covertype_test_recall": { + "mean": 0.7114736795425415, + "std": 0.027997328953851677, + "n": 5, + "ci95": 0.0347577023408715 + }, + "covertype_test_f1-score": { + "mean": 0.7011132001876831, + "std": 0.028588399974606805, + "n": 5, + "ci95": 0.035491496290843846 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7114736795425415, + "std": 0.027997328953851677, + "n": 5, + "ci95": 0.0347577023408715 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6435575842857361, + "std": 0.0740199542951234, + "n": 5, + "ci95": 0.09189317819980357 + }, + "covertype_test_accuracy": { + "mean": 0.7175555467605591, + "std": 0.02795113367263425, + "n": 5, + "ci95": 0.03470035251879545 + }, + "covertype_test_precision": { + "mean": 0.7192480444908143, + "std": 0.0064516989475154355, + "n": 5, + "ci95": 0.008009558053923041 + }, + "covertype_test_recall": { + "mean": 0.7175555467605591, + "std": 0.02795113367263425, + "n": 5, + "ci95": 0.03470035251879545 + }, + "covertype_test_f1-score": { + "mean": 0.7070257544517518, + "std": 0.029613711514717003, + "n": 5, + "ci95": 0.03676438462160398 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7175555467605591, + "std": 0.02795113367263425, + "n": 5, + "ci95": 0.03470035251879545 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.628719973564148, + "std": 0.07446122391051785, + "n": 5, + "ci95": 0.09244099895689194 + }, + "covertype_test_accuracy": { + "mean": 0.7190000057220459, + "std": 0.02698958726109977, + "n": 5, + "ci95": 0.0335066263596273 + }, + "covertype_test_precision": { + "mean": 0.721597158908844, + "std": 0.006694550107675777, + "n": 5, + "ci95": 0.00831104925516948 + }, + "covertype_test_recall": { + "mean": 0.7190000057220459, + "std": 0.02698958726109977, + "n": 5, + "ci95": 0.0335066263596273 + }, + "covertype_test_f1-score": { + "mean": 0.7089287996292114, + "std": 0.029351071597585075, + "n": 5, + "ci95": 0.036438326372349214 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7190000057220459, + "std": 0.02698958726109977, + "n": 5, + "ci95": 0.0335066263596273 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5866896152496338, + "std": 0.06183666246973903, + "n": 5, + "ci95": 0.07676804853130262 + }, + "covertype_test_accuracy": { + "mean": 0.7289999961853028, + "std": 0.025049947030289368, + "n": 5, + "ci95": 0.031098631014713784 + }, + "covertype_test_precision": { + "mean": 0.7338804125785827, + "std": 0.003793800095051163, + "n": 5, + "ci95": 0.004709869811577774 + }, + "covertype_test_recall": { + "mean": 0.7289999961853028, + "std": 0.025049947030289368, + "n": 5, + "ci95": 0.031098631014713784 + }, + "covertype_test_f1-score": { + "mean": 0.7192422032356263, + "std": 0.02689253173629545, + "n": 5, + "ci95": 0.03338613532824191 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7289999961853028, + "std": 0.025049947030289368, + "n": 5, + "ci95": 0.031098631014713784 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..ee1a4c724cf98349d3eacf18896ae32b2120f3fa --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpczogn4kl", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpczogn4kl/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.578970730304718, + "lr": 0.0, + "covertype_val_accuracy": 0.7737737894058228, + "covertype_val_precision": 0.7670425176620483, + "covertype_val_recall": 0.7737737894058228, + "covertype_val_f1-score": 0.7688968777656555, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7737737894058228 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5417669415473938, + "lr": 0.0, + "covertype_test_accuracy": 0.7894999980926514, + "covertype_test_precision": 0.7902035117149353, + "covertype_test_recall": 0.7894999980926514, + "covertype_test_f1-score": 0.7887330055236816, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7894999980926514 + }, + "5": { + "covertype_test_loss": 0.5137138962745667, + "covertype_test_accuracy": 0.7973684072494507, + "covertype_test_precision": 0.7985391616821289, + "covertype_test_recall": 0.7973684072494507, + "covertype_test_f1-score": 0.7967847585678101, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7973684072494507 + }, + "10": { + "covertype_test_loss": 0.5002128481864929, + "covertype_test_accuracy": 0.7994444370269775, + "covertype_test_precision": 0.8001320362091064, + "covertype_test_recall": 0.7994444370269775, + "covertype_test_f1-score": 0.7986630201339722, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7994444370269775 + }, + "20": { + "covertype_test_loss": 0.49690425395965576, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.8005600571632385, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7997597455978394, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.800000011920929 + }, + "50": { + "covertype_test_loss": 0.45455965399742126, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7953521609306335, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7945380210876465, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7950000166893005 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5645679235458374, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7717717885971069, + "covertype_val_precision": 0.7732471227645874, + "covertype_val_recall": 0.7717717885971069, + "covertype_val_f1-score": 0.7699121236801147, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7717717885971069 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5538824796676636, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7739999890327454, + "covertype_test_precision": 0.7778989672660828, + "covertype_test_recall": 0.7739999890327454, + "covertype_test_f1-score": 0.7744814157485962, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7739999890327454 + }, + "5": { + "covertype_test_loss": 0.5296446084976196, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.78493732213974, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.780710756778717, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7799999713897705 + }, + "10": { + "covertype_test_loss": 0.5140450596809387, + "covertype_test_accuracy": 0.7866666913032532, + "covertype_test_precision": 0.7896363735198975, + "covertype_test_recall": 0.7866666913032532, + "covertype_test_f1-score": 0.7866547107696533, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7866666913032532 + }, + "20": { + "covertype_test_loss": 0.5056002140045166, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7932712435722351, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7902328372001648, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7900000214576721 + }, + "50": { + "covertype_test_loss": 0.4590645134449005, + "covertype_test_accuracy": 0.7889999747276306, + "covertype_test_precision": 0.7915494441986084, + "covertype_test_recall": 0.7889999747276306, + "covertype_test_f1-score": 0.7893079519271851, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7889999747276306 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5996974110603333, + "lr": 0.0, + "covertype_val_accuracy": 0.7527527809143066, + "covertype_val_precision": 0.74837726354599, + "covertype_val_recall": 0.7527527809143066, + "covertype_val_f1-score": 0.745972752571106, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7527527809143066 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5530297160148621, + "lr": 0.0, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.7784653306007385, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7723131775856018, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7730000019073486 + }, + "5": { + "covertype_test_loss": 0.5329964756965637, + "covertype_test_accuracy": 0.7784210443496704, + "covertype_test_precision": 0.7849168181419373, + "covertype_test_recall": 0.7784210443496704, + "covertype_test_f1-score": 0.778099000453949, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7784210443496704 + }, + "10": { + "covertype_test_loss": 0.5212646126747131, + "covertype_test_accuracy": 0.7855555415153503, + "covertype_test_precision": 0.7904375195503235, + "covertype_test_recall": 0.7855555415153503, + "covertype_test_f1-score": 0.7844832539558411, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7855555415153503 + }, + "20": { + "covertype_test_loss": 0.5058083534240723, + "covertype_test_accuracy": 0.7887499928474426, + "covertype_test_precision": 0.7960823178291321, + "covertype_test_recall": 0.7887499928474426, + "covertype_test_f1-score": 0.7886474132537842, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7887499928474426 + }, + "50": { + "covertype_test_loss": 0.484781950712204, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7889301180839539, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.7815777063369751, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.781000018119812 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5968866944313049, + "lr": 0.0, + "covertype_val_accuracy": 0.7717717885971069, + "covertype_val_precision": 0.7635844945907593, + "covertype_val_recall": 0.7717717885971069, + "covertype_val_f1-score": 0.7670642137527466, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7717717885971069 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5765339136123657, + "lr": 0.0, + "covertype_test_accuracy": 0.765999972820282, + "covertype_test_precision": 0.763319194316864, + "covertype_test_recall": 0.765999972820282, + "covertype_test_f1-score": 0.763815701007843, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.765999972820282 + }, + "5": { + "covertype_test_loss": 0.550893247127533, + "covertype_test_accuracy": 0.7726315855979919, + "covertype_test_precision": 0.7688510417938232, + "covertype_test_recall": 0.7726315855979919, + "covertype_test_f1-score": 0.7701747417449951, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7726315855979919 + }, + "10": { + "covertype_test_loss": 0.5344034433364868, + "covertype_test_accuracy": 0.7788888812065125, + "covertype_test_precision": 0.7740325331687927, + "covertype_test_recall": 0.7788888812065125, + "covertype_test_f1-score": 0.7756680846214294, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7788888812065125 + }, + "20": { + "covertype_test_loss": 0.5264629125595093, + "covertype_test_accuracy": 0.7793750166893005, + "covertype_test_precision": 0.7771440148353577, + "covertype_test_recall": 0.7793750166893005, + "covertype_test_f1-score": 0.7773621082305908, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7793750166893005 + }, + "50": { + "covertype_test_loss": 0.4826229512691498, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7759839296340942, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7728770971298218, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7749999761581421 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6091212630271912, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.7502849698066711, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7493839263916016, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5851233005523682, + "lr": 0.0, + "covertype_test_accuracy": 0.7680000066757202, + "covertype_test_precision": 0.7745047807693481, + "covertype_test_recall": 0.7680000066757202, + "covertype_test_f1-score": 0.7704962491989136, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7680000066757202 + }, + "5": { + "covertype_test_loss": 0.5541718006134033, + "covertype_test_accuracy": 0.774210512638092, + "covertype_test_precision": 0.781679093837738, + "covertype_test_recall": 0.774210512638092, + "covertype_test_f1-score": 0.776789665222168, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.774210512638092 + }, + "10": { + "covertype_test_loss": 0.5439246296882629, + "covertype_test_accuracy": 0.7805555462837219, + "covertype_test_precision": 0.7867000102996826, + "covertype_test_recall": 0.7805555462837219, + "covertype_test_f1-score": 0.7827308773994446, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7805555462837219 + }, + "20": { + "covertype_test_loss": 0.5395034551620483, + "covertype_test_accuracy": 0.7837499976158142, + "covertype_test_precision": 0.7894738912582397, + "covertype_test_recall": 0.7837499976158142, + "covertype_test_f1-score": 0.7861752510070801, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7837499976158142 + }, + "50": { + "covertype_test_loss": 0.49261850118637085, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.788198709487915, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7855431437492371, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7839999794960022 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5620672702789307, + "std": 0.01803909526792585, + "n": 5, + "ci95": 0.022394904344435057 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198932, + "n": 5, + "ci95": 0.0002776000455021858 + }, + "covertype_test_accuracy": { + "mean": 0.7740999937057496, + "std": 0.00923580394604747, + "n": 5, + "ci95": 0.011465926801963776 + }, + "covertype_test_precision": { + "mean": 0.7768783569335938, + "std": 0.009625547198628502, + "n": 5, + "ci95": 0.011949779386076482 + }, + "covertype_test_recall": { + "mean": 0.7740999937057496, + "std": 0.00923580394604747, + "n": 5, + "ci95": 0.011465926801963776 + }, + "covertype_test_f1-score": { + "mean": 0.7739679098129273, + "std": 0.009166919459103723, + "n": 5, + "ci95": 0.011380409126436912 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7740999937057496, + "std": 0.00923580394604747, + "n": 5, + "ci95": 0.011465926801963776 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5362840056419372, + "std": 0.016565796314714457, + "n": 5, + "ci95": 0.02056585534625217 + }, + "covertype_test_accuracy": { + "mean": 0.7805263042449951, + "std": 0.009881565984842808, + "n": 5, + "ci95": 0.012267617733426538 + }, + "covertype_test_precision": { + "mean": 0.7837846875190735, + "std": 0.010580076719268385, + "n": 5, + "ci95": 0.013134794321203411 + }, + "covertype_test_recall": { + "mean": 0.7805263042449951, + "std": 0.009881565984842808, + "n": 5, + "ci95": 0.012267617733426538 + }, + "covertype_test_f1-score": { + "mean": 0.7805117845535279, + "std": 0.009891655911289609, + "n": 5, + "ci95": 0.012280144023368597 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7805263042449951, + "std": 0.009881565984842808, + "n": 5, + "ci95": 0.012267617733426538 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5227701187133789, + "std": 0.017103152001518917, + "n": 5, + "ci95": 0.021232963592324853 + }, + "covertype_test_accuracy": { + "mean": 0.7862222194671631, + "std": 0.008083286567304011, + "n": 5, + "ci95": 0.010035116882236217 + }, + "covertype_test_precision": { + "mean": 0.7881876945495605, + "std": 0.009386286261296766, + "n": 5, + "ci95": 0.011652745320602521 + }, + "covertype_test_recall": { + "mean": 0.7862222194671631, + "std": 0.008083286567304011, + "n": 5, + "ci95": 0.010035116882236217 + }, + "covertype_test_f1-score": { + "mean": 0.7856399893760682, + "std": 0.008364640509137888, + "n": 5, + "ci95": 0.01038440793706548 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7862222194671631, + "std": 0.008083286567304011, + "n": 5, + "ci95": 0.010035116882236217 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5148558378219604, + "std": 0.017550015198368542, + "n": 5, + "ci95": 0.021787728584685057 + }, + "covertype_test_accuracy": { + "mean": 0.7883750081062317, + "std": 0.007751009017888136, + "n": 5, + "ci95": 0.009622605953919165 + }, + "covertype_test_precision": { + "mean": 0.7913063049316407, + "std": 0.008891448336236481, + "n": 5, + "ci95": 0.011038421385109609 + }, + "covertype_test_recall": { + "mean": 0.7883750081062317, + "std": 0.007751009017888136, + "n": 5, + "ci95": 0.009622605953919165 + }, + "covertype_test_f1-score": { + "mean": 0.7884354710578918, + "std": 0.008050506154631458, + "n": 5, + "ci95": 0.009994421149148192 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7883750081062317, + "std": 0.007751009017888136, + "n": 5, + "ci95": 0.009622605953919165 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.47472951412200926, + "std": 0.016849252158804427, + "n": 5, + "ci95": 0.02091775583904201 + }, + "covertype_test_accuracy": { + "mean": 0.7847999930381775, + "std": 0.00762890048716164, + "n": 5, + "ci95": 0.009471012494012027 + }, + "covertype_test_precision": { + "mean": 0.788002872467041, + "std": 0.007279136888442179, + "n": 5, + "ci95": 0.009036793248526088 + }, + "covertype_test_recall": { + "mean": 0.7847999930381775, + "std": 0.00762890048716164, + "n": 5, + "ci95": 0.009471012494012027 + }, + "covertype_test_f1-score": { + "mean": 0.7847687840461731, + "std": 0.00818896918172393, + "n": 5, + "ci95": 0.010166318142923169 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7847999930381775, + "std": 0.00762890048716164, + "n": 5, + "ci95": 0.009471012494012027 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..db428db0863714db20d2dfa313fab9145087873d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:fbe851b6164b341b5085baffcbbf2261cf8e2fdf226a2b36e7cc0caaa0ea3dd2 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..1b41233375d909573a8d4a83833aef1695d2d6e5 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:3cc6d218c05da33b11f398d0fd4c5ee19c3fbdc338c8958b4fc945461d62404d +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..b0bc8fd3e7b6a2abe160db0583af00c3652239ec --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1105b212c094a8863afeeb761b6352d6bde436224c89301b7d8cf6dac0651a16 +size 11494928 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..5245a11bd29512687bd23aa33225ba920b397ecc --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_183709/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.002 +sw_s_y_weight: 0.002 +sw_seed: 0 +sw_z_weight: 0.002 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.0005 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..f1e2159b47488824d6ce894bb728677223b58b0d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T18:55:38.692574+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0, + "sw_z_weight": 0.0, + "sw_s_y_weight": 0.0, + "lambda_joint": 0.0005, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..23c09c7d3c099b6f84b6ca77c93c6d861d340d90 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0, + "sw_z_weight": 0.0, + "sw_s_y_weight": 0.0, + "lambda_joint": 0.0005, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.0005", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.0", + "--sw-z-end-weight", + "0.0", + "--sw-s-y-end-weight", + "0.0", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..56834a6b173fb9774cb9c69b6c2ec745ba33844c --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.0005, + "s_x": 0.0, + "z": 0.0, + "s_y": 0.0 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.0005", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.0", + "--sw_z_weight", + "0.0", + "--sw_s_y_weight", + "0.0", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..c3e8fa5a8a937308015fdcce1d42ee2633fde11d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpjg7wou22", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpjg7wou22/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.725304901599884, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6966966986656189, + "covertype_val_precision": 0.7212747931480408, + "covertype_val_recall": 0.6966966986656189, + "covertype_val_f1-score": 0.6812060475349426, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6966966986656189 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7184213995933533, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6834999918937683, + "covertype_test_precision": 0.6994060277938843, + "covertype_test_recall": 0.6834999918937683, + "covertype_test_f1-score": 0.6680930256843567, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6834999918937683 + }, + "5": { + "covertype_test_loss": 0.7020132541656494, + "covertype_test_accuracy": 0.6894736886024475, + "covertype_test_precision": 0.7092787027359009, + "covertype_test_recall": 0.6894736886024475, + "covertype_test_f1-score": 0.6790971159934998, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6894736886024475 + }, + "10": { + "covertype_test_loss": 0.6936890482902527, + "covertype_test_accuracy": 0.6888889074325562, + "covertype_test_precision": 0.7078370451927185, + "covertype_test_recall": 0.6888889074325562, + "covertype_test_f1-score": 0.680141270160675, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6888889074325562 + }, + "20": { + "covertype_test_loss": 0.6724289655685425, + "covertype_test_accuracy": 0.6956250071525574, + "covertype_test_precision": 0.7114310264587402, + "covertype_test_recall": 0.6956250071525574, + "covertype_test_f1-score": 0.686799168586731, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6956250071525574 + }, + "50": { + "covertype_test_loss": 0.6245071887969971, + "covertype_test_accuracy": 0.7059999704360962, + "covertype_test_precision": 0.7161734104156494, + "covertype_test_recall": 0.7059999704360962, + "covertype_test_f1-score": 0.693947970867157, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7059999704360962 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6529191732406616, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7207207083702087, + "covertype_val_precision": 0.6835737824440002, + "covertype_val_recall": 0.7207207083702087, + "covertype_val_f1-score": 0.6938313841819763, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7207207083702087 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6606895327568054, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7124999761581421, + "covertype_test_precision": 0.7036471962928772, + "covertype_test_recall": 0.7124999761581421, + "covertype_test_f1-score": 0.6887006759643555, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7124999761581421 + }, + "5": { + "covertype_test_loss": 0.6381617784500122, + "covertype_test_accuracy": 0.722631573677063, + "covertype_test_precision": 0.7118703722953796, + "covertype_test_recall": 0.722631573677063, + "covertype_test_f1-score": 0.7029924392700195, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.722631573677063 + }, + "10": { + "covertype_test_loss": 0.6250172853469849, + "covertype_test_accuracy": 0.7294444441795349, + "covertype_test_precision": 0.7193130254745483, + "covertype_test_recall": 0.7294444441795349, + "covertype_test_f1-score": 0.7120160460472107, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7294444441795349 + }, + "20": { + "covertype_test_loss": 0.6036660671234131, + "covertype_test_accuracy": 0.737500011920929, + "covertype_test_precision": 0.7241076827049255, + "covertype_test_recall": 0.737500011920929, + "covertype_test_f1-score": 0.7178364396095276, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.737500011920929 + }, + "50": { + "covertype_test_loss": 0.5915457606315613, + "covertype_test_accuracy": 0.7260000109672546, + "covertype_test_precision": 0.7242714166641235, + "covertype_test_recall": 0.7260000109672546, + "covertype_test_f1-score": 0.7064946293830872, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7260000109672546 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6849115490913391, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6906906962394714, + "covertype_val_precision": 0.6969172358512878, + "covertype_val_recall": 0.6906906962394714, + "covertype_val_f1-score": 0.6720479726791382, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6906906962394714 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6918259859085083, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6949999928474426, + "covertype_test_precision": 0.7076869010925293, + "covertype_test_recall": 0.6949999928474426, + "covertype_test_f1-score": 0.6761971116065979, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6949999928474426 + }, + "5": { + "covertype_test_loss": 0.6757373213768005, + "covertype_test_accuracy": 0.7005262970924377, + "covertype_test_precision": 0.712134063243866, + "covertype_test_recall": 0.7005262970924377, + "covertype_test_f1-score": 0.6793497204780579, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7005262970924377 + }, + "10": { + "covertype_test_loss": 0.6621049642562866, + "covertype_test_accuracy": 0.7055555582046509, + "covertype_test_precision": 0.7177745699882507, + "covertype_test_recall": 0.7055555582046509, + "covertype_test_f1-score": 0.6829181909561157, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7055555582046509 + }, + "20": { + "covertype_test_loss": 0.6324393153190613, + "covertype_test_accuracy": 0.7099999785423279, + "covertype_test_precision": 0.7216875553131104, + "covertype_test_recall": 0.7099999785423279, + "covertype_test_f1-score": 0.6827059388160706, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7099999785423279 + }, + "50": { + "covertype_test_loss": 0.637883722782135, + "covertype_test_accuracy": 0.6909999847412109, + "covertype_test_precision": 0.7143315076828003, + "covertype_test_recall": 0.6909999847412109, + "covertype_test_f1-score": 0.6584595441818237, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6909999847412109 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6644761562347412, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7277277112007141, + "covertype_val_precision": 0.733599066734314, + "covertype_val_recall": 0.7277277112007141, + "covertype_val_f1-score": 0.7061656713485718, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7277277112007141 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6693122386932373, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7080000042915344, + "covertype_test_precision": 0.7041958570480347, + "covertype_test_recall": 0.7080000042915344, + "covertype_test_f1-score": 0.6892160773277283, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7080000042915344 + }, + "5": { + "covertype_test_loss": 0.6518456339836121, + "covertype_test_accuracy": 0.7178947329521179, + "covertype_test_precision": 0.7045753598213196, + "covertype_test_recall": 0.7178947329521179, + "covertype_test_f1-score": 0.7023739814758301, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7178947329521179 + }, + "10": { + "covertype_test_loss": 0.6362228989601135, + "covertype_test_accuracy": 0.7238888740539551, + "covertype_test_precision": 0.7144105434417725, + "covertype_test_recall": 0.7238888740539551, + "covertype_test_f1-score": 0.7113963961601257, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7238888740539551 + }, + "20": { + "covertype_test_loss": 0.6100577116012573, + "covertype_test_accuracy": 0.7350000143051147, + "covertype_test_precision": 0.722387433052063, + "covertype_test_recall": 0.7350000143051147, + "covertype_test_f1-score": 0.7224894165992737, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7350000143051147 + }, + "50": { + "covertype_test_loss": 0.5719689130783081, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.7308789491653442, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.7402659058570862, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.75 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6472343802452087, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7097097039222717, + "covertype_val_precision": 0.6771281361579895, + "covertype_val_recall": 0.7097097039222717, + "covertype_val_f1-score": 0.6820443868637085, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7097097039222717 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6477937698364258, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7120000123977661, + "covertype_test_precision": 0.6906805634498596, + "covertype_test_recall": 0.7120000123977661, + "covertype_test_f1-score": 0.6868023872375488, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7120000123977661 + }, + "5": { + "covertype_test_loss": 0.6316827535629272, + "covertype_test_accuracy": 0.7210526466369629, + "covertype_test_precision": 0.7072333693504333, + "covertype_test_recall": 0.7210526466369629, + "covertype_test_f1-score": 0.7001280188560486, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7210526466369629 + }, + "10": { + "covertype_test_loss": 0.6133559942245483, + "covertype_test_accuracy": 0.7294444441795349, + "covertype_test_precision": 0.7205203771591187, + "covertype_test_recall": 0.7294444441795349, + "covertype_test_f1-score": 0.7111457586288452, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7294444441795349 + }, + "20": { + "covertype_test_loss": 0.5900664329528809, + "covertype_test_accuracy": 0.737500011920929, + "covertype_test_precision": 0.7307050824165344, + "covertype_test_recall": 0.737500011920929, + "covertype_test_f1-score": 0.7182469964027405, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.737500011920929 + }, + "50": { + "covertype_test_loss": 0.5903557538986206, + "covertype_test_accuracy": 0.718999981880188, + "covertype_test_precision": 0.7239156365394592, + "covertype_test_recall": 0.718999981880188, + "covertype_test_f1-score": 0.6973403692245483, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.718999981880188 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.677608585357666, + "std": 0.027891877033073893, + "n": 5, + "ci95": 0.0346267874782534 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7021999955177307, + "std": 0.012622402780437551, + "n": 5, + "ci95": 0.015670270524455885 + }, + "covertype_test_precision": { + "mean": 0.701123309135437, + "std": 0.006536269752266897, + "n": 5, + "ci95": 0.008114549743063262 + }, + "covertype_test_recall": { + "mean": 0.7021999955177307, + "std": 0.012622402780437551, + "n": 5, + "ci95": 0.015670270524455885 + }, + "covertype_test_f1-score": { + "mean": 0.6818018555641174, + "std": 0.00931282577676218, + "n": 5, + "ci95": 0.011561546704496033 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7021999955177307, + "std": 0.012622402780437551, + "n": 5, + "ci95": 0.015670270524455885 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6598881483078003, + "std": 0.028974050058079577, + "n": 5, + "ci95": 0.03597026734901062 + }, + "covertype_test_accuracy": { + "mean": 0.7103157877922058, + "std": 0.014616996582295984, + "n": 5, + "ci95": 0.018146488801214212 + }, + "covertype_test_precision": { + "mean": 0.7090183734893799, + "std": 0.0031951448082541854, + "n": 5, + "ci95": 0.003966660261210441 + }, + "covertype_test_recall": { + "mean": 0.7103157877922058, + "std": 0.014616996582295984, + "n": 5, + "ci95": 0.018146488801214212 + }, + "covertype_test_f1-score": { + "mean": 0.6927882552146911, + "std": 0.012429050240678528, + "n": 5, + "ci95": 0.015430230125070889 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7103157877922058, + "std": 0.014616996582295984, + "n": 5, + "ci95": 0.018146488801214212 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6460780382156373, + "std": 0.03215230117243768, + "n": 5, + "ci95": 0.03991595468152327 + }, + "covertype_test_accuracy": { + "mean": 0.7154444456100464, + "std": 0.01779251945094052, + "n": 5, + "ci95": 0.02208878911232274 + }, + "covertype_test_precision": { + "mean": 0.7159711122512817, + "std": 0.005092029971557773, + "n": 5, + "ci95": 0.006321576688759546 + }, + "covertype_test_recall": { + "mean": 0.7154444456100464, + "std": 0.01779251945094052, + "n": 5, + "ci95": 0.02208878911232274 + }, + "covertype_test_f1-score": { + "mean": 0.6995235323905945, + "std": 0.016458382268533054, + "n": 5, + "ci95": 0.020432504573735414 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7154444456100464, + "std": 0.01779251945094052, + "n": 5, + "ci95": 0.02208878911232274 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.621731698513031, + "std": 0.03221103846307689, + "n": 5, + "ci95": 0.03998887496858751 + }, + "covertype_test_accuracy": { + "mean": 0.7231250047683716, + "std": 0.019253660009683968, + "n": 5, + "ci95": 0.02390274389003351 + }, + "covertype_test_precision": { + "mean": 0.7220637559890747, + "std": 0.006930934098312975, + "n": 5, + "ci95": 0.008604511692184737 + }, + "covertype_test_recall": { + "mean": 0.7231250047683716, + "std": 0.019253660009683968, + "n": 5, + "ci95": 0.02390274389003351 + }, + "covertype_test_f1-score": { + "mean": 0.7056155920028686, + "std": 0.01918682783293834, + "n": 5, + "ci95": 0.02381977408566589 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7231250047683716, + "std": 0.019253660009683968, + "n": 5, + "ci95": 0.02390274389003351 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6032522678375244, + "std": 0.027079143285491016, + "n": 5, + "ci95": 0.03361780702417403 + }, + "covertype_test_accuracy": { + "mean": 0.71839998960495, + "std": 0.022142728571282525, + "n": 5, + "ci95": 0.0274894212217151 + }, + "covertype_test_precision": { + "mean": 0.7219141840934753, + "std": 0.006715333834748779, + "n": 5, + "ci95": 0.008336851523676168 + }, + "covertype_test_recall": { + "mean": 0.71839998960495, + "std": 0.022142728571282525, + "n": 5, + "ci95": 0.0274894212217151 + }, + "covertype_test_f1-score": { + "mean": 0.6993016839027405, + "std": 0.029284788374364653, + "n": 5, + "ci95": 0.03635603807453743 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.71839998960495, + "std": 0.022142728571282525, + "n": 5, + "ci95": 0.0274894212217151 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..04a3b5b51150b47a6b6b5db3beee6d486cd8cc25 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp_x52sx16", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp_x52sx16/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5832499265670776, + "lr": 0.0, + "covertype_val_accuracy": 0.7667667865753174, + "covertype_val_precision": 0.7647775411605835, + "covertype_val_recall": 0.7667667865753174, + "covertype_val_f1-score": 0.7655346989631653, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7667667865753174 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5583150386810303, + "lr": 0.0, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7766901850700378, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7751929759979248, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7749999761581421 + }, + "5": { + "covertype_test_loss": 0.5297423005104065, + "covertype_test_accuracy": 0.7831578850746155, + "covertype_test_precision": 0.7834119200706482, + "covertype_test_recall": 0.7831578850746155, + "covertype_test_f1-score": 0.7829437255859375, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7831578850746155 + }, + "10": { + "covertype_test_loss": 0.5043948888778687, + "covertype_test_accuracy": 0.7877777814865112, + "covertype_test_precision": 0.7887430787086487, + "covertype_test_recall": 0.7877777814865112, + "covertype_test_f1-score": 0.7878660559654236, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7877777814865112 + }, + "20": { + "covertype_test_loss": 0.48592936992645264, + "covertype_test_accuracy": 0.7925000190734863, + "covertype_test_precision": 0.7924364805221558, + "covertype_test_recall": 0.7925000190734863, + "covertype_test_f1-score": 0.7921868562698364, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7925000190734863 + }, + "50": { + "covertype_test_loss": 0.480179101228714, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.782612681388855, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7822207808494568, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5882349014282227, + "lr": 0.0, + "covertype_val_accuracy": 0.7617617845535278, + "covertype_val_precision": 0.7573282718658447, + "covertype_val_recall": 0.7617617845535278, + "covertype_val_f1-score": 0.7565162181854248, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7617617845535278 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5617033839225769, + "lr": 0.0, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.78011155128479, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.779035210609436, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7799999713897705 + }, + "5": { + "covertype_test_loss": 0.5463367104530334, + "covertype_test_accuracy": 0.7847368717193604, + "covertype_test_precision": 0.7858558297157288, + "covertype_test_recall": 0.7847368717193604, + "covertype_test_f1-score": 0.7841988205909729, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7847368717193604 + }, + "10": { + "covertype_test_loss": 0.5279135704040527, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7856931686401367, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7846583724021912, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7850000262260437 + }, + "20": { + "covertype_test_loss": 0.4995514750480652, + "covertype_test_accuracy": 0.7925000190734863, + "covertype_test_precision": 0.7922701239585876, + "covertype_test_recall": 0.7925000190734863, + "covertype_test_f1-score": 0.7917810678482056, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7925000190734863 + }, + "50": { + "covertype_test_loss": 0.4708065390586853, + "covertype_test_accuracy": 0.7979999780654907, + "covertype_test_precision": 0.7960912585258484, + "covertype_test_recall": 0.7979999780654907, + "covertype_test_f1-score": 0.7949628233909607, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7979999780654907 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5704603791236877, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7857857942581177, + "covertype_val_precision": 0.7814037799835205, + "covertype_val_recall": 0.7857857942581177, + "covertype_val_f1-score": 0.7806442379951477, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7857857942581177 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5635146498680115, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7745000123977661, + "covertype_test_precision": 0.7771725058555603, + "covertype_test_recall": 0.7745000123977661, + "covertype_test_f1-score": 0.7723937034606934, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7745000123977661 + }, + "5": { + "covertype_test_loss": 0.5402336716651917, + "covertype_test_accuracy": 0.7821052670478821, + "covertype_test_precision": 0.7847899198532104, + "covertype_test_recall": 0.7821052670478821, + "covertype_test_f1-score": 0.7807425856590271, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7821052670478821 + }, + "10": { + "covertype_test_loss": 0.5199940800666809, + "covertype_test_accuracy": 0.7872222065925598, + "covertype_test_precision": 0.7898626327514648, + "covertype_test_recall": 0.7872222065925598, + "covertype_test_f1-score": 0.786103367805481, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7872222065925598 + }, + "20": { + "covertype_test_loss": 0.5066778063774109, + "covertype_test_accuracy": 0.7881249785423279, + "covertype_test_precision": 0.7900005578994751, + "covertype_test_recall": 0.7881249785423279, + "covertype_test_f1-score": 0.7861151099205017, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7881249785423279 + }, + "50": { + "covertype_test_loss": 0.47669529914855957, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.7944573163986206, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7892225384712219, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7919999957084656 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5702691674232483, + "lr": 0.0, + "covertype_val_accuracy": 0.7787787914276123, + "covertype_val_precision": 0.7676718235015869, + "covertype_val_recall": 0.7787787914276123, + "covertype_val_f1-score": 0.7718985080718994, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7787787914276123 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5535140633583069, + "lr": 0.0, + "covertype_test_accuracy": 0.781499981880188, + "covertype_test_precision": 0.7797391414642334, + "covertype_test_recall": 0.781499981880188, + "covertype_test_f1-score": 0.7800678610801697, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.781499981880188 + }, + "5": { + "covertype_test_loss": 0.5331029891967773, + "covertype_test_accuracy": 0.785263180732727, + "covertype_test_precision": 0.783910870552063, + "covertype_test_recall": 0.785263180732727, + "covertype_test_f1-score": 0.7839944362640381, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.785263180732727 + }, + "10": { + "covertype_test_loss": 0.5101255774497986, + "covertype_test_accuracy": 0.7877777814865112, + "covertype_test_precision": 0.7861365675926208, + "covertype_test_recall": 0.7877777814865112, + "covertype_test_f1-score": 0.786298394203186, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7877777814865112 + }, + "20": { + "covertype_test_loss": 0.48222270607948303, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7908060550689697, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7921217679977417, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7950000166893005 + }, + "50": { + "covertype_test_loss": 0.4627883732318878, + "covertype_test_accuracy": 0.796999990940094, + "covertype_test_precision": 0.7955222725868225, + "covertype_test_recall": 0.796999990940094, + "covertype_test_f1-score": 0.7951194047927856, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.796999990940094 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6160777807235718, + "lr": 0.0, + "covertype_val_accuracy": 0.7427427172660828, + "covertype_val_precision": 0.7396242618560791, + "covertype_val_recall": 0.7427427172660828, + "covertype_val_f1-score": 0.7404099702835083, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7427427172660828 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5872530341148376, + "lr": 0.0, + "covertype_test_accuracy": 0.765999972820282, + "covertype_test_precision": 0.7680615186691284, + "covertype_test_recall": 0.765999972820282, + "covertype_test_f1-score": 0.7662680745124817, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.765999972820282 + }, + "5": { + "covertype_test_loss": 0.5644994974136353, + "covertype_test_accuracy": 0.7721052765846252, + "covertype_test_precision": 0.7738326787948608, + "covertype_test_recall": 0.7721052765846252, + "covertype_test_f1-score": 0.7721201181411743, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7721052765846252 + }, + "10": { + "covertype_test_loss": 0.5423153638839722, + "covertype_test_accuracy": 0.7766666412353516, + "covertype_test_precision": 0.776884913444519, + "covertype_test_recall": 0.7766666412353516, + "covertype_test_f1-score": 0.7766831517219543, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7766666412353516 + }, + "20": { + "covertype_test_loss": 0.5221669673919678, + "covertype_test_accuracy": 0.7837499976158142, + "covertype_test_precision": 0.7839289903640747, + "covertype_test_recall": 0.7837499976158142, + "covertype_test_f1-score": 0.7836692929267883, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7837499976158142 + }, + "50": { + "covertype_test_loss": 0.51157146692276, + "covertype_test_accuracy": 0.7739999890327454, + "covertype_test_precision": 0.7787200808525085, + "covertype_test_recall": 0.7739999890327454, + "covertype_test_f1-score": 0.7753124833106995, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7739999890327454 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5648600339889527, + "std": 0.013084236372869821, + "n": 5, + "ci95": 0.016243620738086453 + }, + "lr": { + "mean": 0.00020000003278255462, + "std": 0.0004472136688039785, + "n": 5, + "ci95": 0.0005552000910043715 + }, + "covertype_test_accuracy": { + "mean": 0.7753999829292297, + "std": 0.006076594923588762, + "n": 5, + "ci95": 0.0075438795589495835 + }, + "covertype_test_precision": { + "mean": 0.77635498046875, + "std": 0.004876643016560194, + "n": 5, + "ci95": 0.006054181335358071 + }, + "covertype_test_recall": { + "mean": 0.7753999829292297, + "std": 0.006076594923588762, + "n": 5, + "ci95": 0.0075438795589495835 + }, + "covertype_test_f1-score": { + "mean": 0.7745915651321411, + "std": 0.005572445367388942, + "n": 5, + "ci95": 0.006917995559852409 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7753999829292297, + "std": 0.006076594923588762, + "n": 5, + "ci95": 0.0075438795589495835 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5427830338478088, + "std": 0.01373405116108996, + "n": 5, + "ci95": 0.0170503430158752 + }, + "covertype_test_accuracy": { + "mean": 0.781473696231842, + "std": 0.005385424019632571, + "n": 5, + "ci95": 0.006685815113374129 + }, + "covertype_test_precision": { + "mean": 0.7823602437973023, + "std": 0.00485675503389654, + "n": 5, + "ci95": 0.006029491102131783 + }, + "covertype_test_recall": { + "mean": 0.781473696231842, + "std": 0.005385424019632571, + "n": 5, + "ci95": 0.006685815113374129 + }, + "covertype_test_f1-score": { + "mean": 0.7807999372482299, + "std": 0.0050422120471192424, + "n": 5, + "ci95": 0.006259729482130349 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.781473696231842, + "std": 0.005385424019632571, + "n": 5, + "ci95": 0.006685815113374129 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5209486961364747, + "std": 0.014976011559296952, + "n": 5, + "ci95": 0.018592193308493564 + }, + "covertype_test_accuracy": { + "mean": 0.7848888874053955, + "std": 0.004736915672968472, + "n": 5, + "ci95": 0.005880714736974812 + }, + "covertype_test_precision": { + "mean": 0.785464072227478, + "std": 0.005104065017032706, + "n": 5, + "ci95": 0.006336517775781314 + }, + "covertype_test_recall": { + "mean": 0.7848888874053955, + "std": 0.004736915672968472, + "n": 5, + "ci95": 0.005880714736974812 + }, + "covertype_test_f1-score": { + "mean": 0.7843218684196472, + "std": 0.004418848473081982, + "n": 5, + "ci95": 0.005485845459399383 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7848888874053955, + "std": 0.004736915672968472, + "n": 5, + "ci95": 0.005880714736974812 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.4993096649646759, + "std": 0.0161848749879428, + "n": 5, + "ci95": 0.020092954873744857 + }, + "covertype_test_accuracy": { + "mean": 0.790375006198883, + "std": 0.00445464489751793, + "n": 5, + "ci95": 0.005530285465353629 + }, + "covertype_test_precision": { + "mean": 0.7898884415626526, + "std": 0.0034833373645988715, + "n": 5, + "ci95": 0.004324441216200627 + }, + "covertype_test_recall": { + "mean": 0.790375006198883, + "std": 0.00445464489751793, + "n": 5, + "ci95": 0.005530285465353629 + }, + "covertype_test_f1-score": { + "mean": 0.7891748189926148, + "std": 0.00400693295935074, + "n": 5, + "ci95": 0.004974466790403601 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.790375006198883, + "std": 0.00445464489751793, + "n": 5, + "ci95": 0.005530285465353629 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.48040815591812136, + "std": 0.01862550343238643, + "n": 5, + "ci95": 0.023122909521792294 + }, + "covertype_test_accuracy": { + "mean": 0.7885999917984009, + "std": 0.010334404400470351, + "n": 5, + "ci95": 0.012829800750414974 + }, + "covertype_test_precision": { + "mean": 0.789480721950531, + "std": 0.008184243981616697, + "n": 5, + "ci95": 0.010160451972650319 + }, + "covertype_test_recall": { + "mean": 0.7885999917984009, + "std": 0.010334404400470351, + "n": 5, + "ci95": 0.012829800750414974 + }, + "covertype_test_f1-score": { + "mean": 0.7873676061630249, + "std": 0.008559122011002807, + "n": 5, + "ci95": 0.010625849903324786 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7885999917984009, + "std": 0.010334404400470351, + "n": 5, + "ci95": 0.012829800750414974 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..adb96ac08f0dd625ba87ded4522271197a2f7b7f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d3db674251182979cd4cefd5247bf90bd2cb2e8be895500a1fc8e7c37acc674e +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..2ca74ff454b3791ff8e5f5224465987a9adc037e --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e34a820ec2b7f25cc05cd9047290b950c63e46eedd5d2a4dd2c51c72413a1cea +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..376d2e7c3a99008d7992a77d83e039e5586e49cf --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:53fd5b9743d9b0008ca461862aa726cbb18d18528bf860a3160c8481f8b2170f +size 11507024 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..cb1232ad3a9dc274ea2086de864653ea7e714cd9 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0005_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_181711/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.0 +sw_s_y_weight: 0.0 +sw_seed: 0 +sw_z_weight: 0.0 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.0005 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..90b0917fe3bd5881b1ba81259c00d1de63aaec29 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T19:53:51.331034+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0001, + "sw_z_weight": 0.0001, + "sw_s_y_weight": 0.0001, + "lambda_joint": 0.0015, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..e7907ef231ddebb51de5eaf1177e4a58a13feb09 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0001, + "sw_z_weight": 0.0001, + "sw_s_y_weight": 0.0001, + "lambda_joint": 0.0015, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.0015", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.0001", + "--sw-z-end-weight", + "0.0001", + "--sw-s-y-end-weight", + "0.0001", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..510810fbb8cd8e2fa07a4e1b0d838789530342b5 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.0015, + "s_x": 0.0001, + "z": 0.0001, + "s_y": 0.0001 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.0015", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.0001", + "--sw_z_weight", + "0.0001", + "--sw_s_y_weight", + "0.0001", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..9dd73985fdb3175320aeb5de68d3a6d62755d6e6 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpr53633q9", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpr53633q9/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.7125518918037415, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.695695698261261, + "covertype_val_precision": 0.6662251353263855, + "covertype_val_recall": 0.695695698261261, + "covertype_val_f1-score": 0.6729050874710083, + "covertype_val_support": 999.0, + "covertype_val_score": 0.695695698261261 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7279325723648071, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6965000033378601, + "covertype_test_precision": 0.6617201566696167, + "covertype_test_recall": 0.6965000033378601, + "covertype_test_f1-score": 0.6691123843193054, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6965000033378601 + }, + "5": { + "covertype_test_loss": 0.7127254605293274, + "covertype_test_accuracy": 0.6978947520256042, + "covertype_test_precision": 0.6634076833724976, + "covertype_test_recall": 0.6978947520256042, + "covertype_test_f1-score": 0.669228732585907, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6978947520256042 + }, + "10": { + "covertype_test_loss": 0.6993245482444763, + "covertype_test_accuracy": 0.7044444680213928, + "covertype_test_precision": 0.6688196063041687, + "covertype_test_recall": 0.7044444680213928, + "covertype_test_f1-score": 0.6731841564178467, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7044444680213928 + }, + "20": { + "covertype_test_loss": 0.6949043869972229, + "covertype_test_accuracy": 0.6981250047683716, + "covertype_test_precision": 0.6630910038948059, + "covertype_test_recall": 0.6981250047683716, + "covertype_test_f1-score": 0.6664342880249023, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6981250047683716 + }, + "50": { + "covertype_test_loss": 0.6782925128936768, + "covertype_test_accuracy": 0.6980000138282776, + "covertype_test_precision": 0.6722637414932251, + "covertype_test_recall": 0.6980000138282776, + "covertype_test_f1-score": 0.6610766649246216, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6980000138282776 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.7111331820487976, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6766766905784607, + "covertype_val_precision": 0.6919088959693909, + "covertype_val_recall": 0.6766766905784607, + "covertype_val_f1-score": 0.6677794456481934, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6766766905784607 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7016343474388123, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6875, + "covertype_test_precision": 0.7066466212272644, + "covertype_test_recall": 0.6875, + "covertype_test_f1-score": 0.6793062686920166, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6875 + }, + "5": { + "covertype_test_loss": 0.6900330781936646, + "covertype_test_accuracy": 0.6910526156425476, + "covertype_test_precision": 0.7141256332397461, + "covertype_test_recall": 0.6910526156425476, + "covertype_test_f1-score": 0.6825511455535889, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6910526156425476 + }, + "10": { + "covertype_test_loss": 0.6818615198135376, + "covertype_test_accuracy": 0.695555567741394, + "covertype_test_precision": 0.7184674143791199, + "covertype_test_recall": 0.695555567741394, + "covertype_test_f1-score": 0.6852155923843384, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.695555567741394 + }, + "20": { + "covertype_test_loss": 0.6678345203399658, + "covertype_test_accuracy": 0.690625011920929, + "covertype_test_precision": 0.7170100212097168, + "covertype_test_recall": 0.690625011920929, + "covertype_test_f1-score": 0.6794886589050293, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.690625011920929 + }, + "50": { + "covertype_test_loss": 0.6134387254714966, + "covertype_test_accuracy": 0.7160000205039978, + "covertype_test_precision": 0.7367927432060242, + "covertype_test_recall": 0.7160000205039978, + "covertype_test_f1-score": 0.7067741751670837, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7160000205039978 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.7591641545295715, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6716716885566711, + "covertype_val_precision": 0.6846679449081421, + "covertype_val_recall": 0.6716716885566711, + "covertype_val_f1-score": 0.6612873077392578, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6716716885566711 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7442333102226257, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6804999709129333, + "covertype_test_precision": 0.6954981088638306, + "covertype_test_recall": 0.6804999709129333, + "covertype_test_f1-score": 0.6697972416877747, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6804999709129333 + }, + "5": { + "covertype_test_loss": 0.7275243997573853, + "covertype_test_accuracy": 0.6847368478775024, + "covertype_test_precision": 0.7058566808700562, + "covertype_test_recall": 0.6847368478775024, + "covertype_test_f1-score": 0.6748418211936951, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6847368478775024 + }, + "10": { + "covertype_test_loss": 0.7138592004776001, + "covertype_test_accuracy": 0.6866666674613953, + "covertype_test_precision": 0.707158088684082, + "covertype_test_recall": 0.6866666674613953, + "covertype_test_f1-score": 0.6748366355895996, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6866666674613953 + }, + "20": { + "covertype_test_loss": 0.6994692087173462, + "covertype_test_accuracy": 0.684374988079071, + "covertype_test_precision": 0.7120988965034485, + "covertype_test_recall": 0.684374988079071, + "covertype_test_f1-score": 0.6727988123893738, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.684374988079071 + }, + "50": { + "covertype_test_loss": 0.6396782398223877, + "covertype_test_accuracy": 0.7089999914169312, + "covertype_test_precision": 0.7344138622283936, + "covertype_test_recall": 0.7089999914169312, + "covertype_test_f1-score": 0.6990786790847778, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7089999914169312 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6651590466499329, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.717717707157135, + "covertype_val_precision": 0.7167906761169434, + "covertype_val_recall": 0.717717707157135, + "covertype_val_f1-score": 0.7079374194145203, + "covertype_val_support": 999.0, + "covertype_val_score": 0.717717707157135 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6688829064369202, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7039999961853027, + "covertype_test_precision": 0.7082928419113159, + "covertype_test_recall": 0.7039999961853027, + "covertype_test_f1-score": 0.6931676864624023, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7039999961853027 + }, + "5": { + "covertype_test_loss": 0.6480094194412231, + "covertype_test_accuracy": 0.7115789651870728, + "covertype_test_precision": 0.7138172388076782, + "covertype_test_recall": 0.7115789651870728, + "covertype_test_f1-score": 0.7026301026344299, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7115789651870728 + }, + "10": { + "covertype_test_loss": 0.640375554561615, + "covertype_test_accuracy": 0.7161111235618591, + "covertype_test_precision": 0.7174874544143677, + "covertype_test_recall": 0.7161111235618591, + "covertype_test_f1-score": 0.7090962529182434, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7161111235618591 + }, + "20": { + "covertype_test_loss": 0.6227763891220093, + "covertype_test_accuracy": 0.7174999713897705, + "covertype_test_precision": 0.7196654081344604, + "covertype_test_recall": 0.7174999713897705, + "covertype_test_f1-score": 0.7107483744621277, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7174999713897705 + }, + "50": { + "covertype_test_loss": 0.601446270942688, + "covertype_test_accuracy": 0.7289999723434448, + "covertype_test_precision": 0.7349973917007446, + "covertype_test_recall": 0.7289999723434448, + "covertype_test_f1-score": 0.7224274277687073, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7289999723434448 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.647546112537384, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7337337136268616, + "covertype_val_precision": 0.7121356129646301, + "covertype_val_recall": 0.7337337136268616, + "covertype_val_f1-score": 0.7141296863555908, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7337337136268616 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6565054655075073, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7139999866485596, + "covertype_test_precision": 0.7001115679740906, + "covertype_test_recall": 0.7139999866485596, + "covertype_test_f1-score": 0.6918542981147766, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7139999866485596 + }, + "5": { + "covertype_test_loss": 0.6405947804450989, + "covertype_test_accuracy": 0.7189473509788513, + "covertype_test_precision": 0.7070163488388062, + "covertype_test_recall": 0.7189473509788513, + "covertype_test_f1-score": 0.6997968554496765, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7189473509788513 + }, + "10": { + "covertype_test_loss": 0.6302452087402344, + "covertype_test_accuracy": 0.7238888740539551, + "covertype_test_precision": 0.7125902771949768, + "covertype_test_recall": 0.7238888740539551, + "covertype_test_f1-score": 0.7051624655723572, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7238888740539551 + }, + "20": { + "covertype_test_loss": 0.6176662445068359, + "covertype_test_accuracy": 0.7231249809265137, + "covertype_test_precision": 0.7144802212715149, + "covertype_test_recall": 0.7231249809265137, + "covertype_test_f1-score": 0.7050650119781494, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7231249809265137 + }, + "50": { + "covertype_test_loss": 0.5906835794448853, + "covertype_test_accuracy": 0.7300000190734863, + "covertype_test_precision": 0.7304614782333374, + "covertype_test_recall": 0.7300000190734863, + "covertype_test_f1-score": 0.7095534801483154, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7300000190734863 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6998377203941345, + "std": 0.03741457534469918, + "n": 5, + "ci95": 0.04644888357688342 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.6964999914169312, + "std": 0.013224034995661691, + "n": 5, + "ci95": 0.016417175827097726 + }, + "covertype_test_precision": { + "mean": 0.6944538593292237, + "std": 0.019005106521788134, + "n": 5, + "ci95": 0.02359417344882075 + }, + "covertype_test_recall": { + "mean": 0.6964999914169312, + "std": 0.013224034995661691, + "n": 5, + "ci95": 0.016417175827097726 + }, + "covertype_test_f1-score": { + "mean": 0.6806475758552551, + "std": 0.011564312491891266, + "n": 5, + "ci95": 0.014356688526698948 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6964999914169312, + "std": 0.013224034995661691, + "n": 5, + "ci95": 0.016417175827097726 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6837774276733398, + "std": 0.038519510545688064, + "n": 5, + "ci95": 0.04782062189110712 + }, + "covertype_test_accuracy": { + "mean": 0.7008421063423157, + "std": 0.014203700196151022, + "n": 5, + "ci95": 0.017633395827528656 + }, + "covertype_test_precision": { + "mean": 0.7008447170257568, + "std": 0.021268576388848298, + "n": 5, + "ci95": 0.026404191934030066 + }, + "covertype_test_recall": { + "mean": 0.7008421063423157, + "std": 0.014203700196151022, + "n": 5, + "ci95": 0.017633395827528656 + }, + "covertype_test_f1-score": { + "mean": 0.6858097314834595, + "std": 0.014869494656258747, + "n": 5, + "ci95": 0.01845995630773625 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7008421063423157, + "std": 0.014203700196151022, + "n": 5, + "ci95": 0.017633395827528656 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6731332063674926, + "std": 0.03651445102112582, + "n": 5, + "ci95": 0.04533141078652864 + }, + "covertype_test_accuracy": { + "mean": 0.7053333401679993, + "std": 0.015044168720244937, + "n": 5, + "ci95": 0.018676808034295937 + }, + "covertype_test_precision": { + "mean": 0.704904568195343, + "std": 0.020667321877262137, + "n": 5, + "ci95": 0.025657755537212903 + }, + "covertype_test_recall": { + "mean": 0.7053333401679993, + "std": 0.015044168720244937, + "n": 5, + "ci95": 0.018676808034295937 + }, + "covertype_test_f1-score": { + "mean": 0.689499020576477, + "std": 0.0167995766887987, + "n": 5, + "ci95": 0.02085608548459684 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7053333401679993, + "std": 0.015044168720244937, + "n": 5, + "ci95": 0.018676808034295937 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.660530149936676, + "std": 0.038774518512668076, + "n": 5, + "ci95": 0.048137205341815995 + }, + "covertype_test_accuracy": { + "mean": 0.7027499914169312, + "std": 0.016872673792696267, + "n": 5, + "ci95": 0.020946832976382192 + }, + "covertype_test_precision": { + "mean": 0.7052691102027893, + "std": 0.02374650282236655, + "n": 5, + "ci95": 0.02948045072788747 + }, + "covertype_test_recall": { + "mean": 0.7027499914169312, + "std": 0.016872673792696267, + "n": 5, + "ci95": 0.020946832976382192 + }, + "covertype_test_f1-score": { + "mean": 0.6869070291519165, + "std": 0.019819997559983628, + "n": 5, + "ci95": 0.02460583210356346 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7027499914169312, + "std": 0.016872673792696267, + "n": 5, + "ci95": 0.020946832976382192 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6247078657150269, + "std": 0.03507553949530975, + "n": 5, + "ci95": 0.043545052573871944 + }, + "covertype_test_accuracy": { + "mean": 0.7164000034332275, + "std": 0.013575708301972666, + "n": 5, + "ci95": 0.016853765907606295 + }, + "covertype_test_precision": { + "mean": 0.721785843372345, + "std": 0.02778004736698461, + "n": 5, + "ci95": 0.034487954868427755 + }, + "covertype_test_recall": { + "mean": 0.7164000034332275, + "std": 0.013575708301972666, + "n": 5, + "ci95": 0.016853765907606295 + }, + "covertype_test_f1-score": { + "mean": 0.6997820854187011, + "std": 0.023215217855183212, + "n": 5, + "ci95": 0.028820879067391704 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7164000034332275, + "std": 0.013575708301972666, + "n": 5, + "ci95": 0.016853765907606295 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..6535fdda3b7216c03b40b426965eb1b848c73c47 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpnquvynag", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpnquvynag/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6026638150215149, + "lr": 0.0, + "covertype_val_accuracy": 0.7647647857666016, + "covertype_val_precision": 0.7599614858627319, + "covertype_val_recall": 0.7647647857666016, + "covertype_val_f1-score": 0.7610569596290588, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7647647857666016 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5502943992614746, + "lr": 0.0, + "covertype_test_accuracy": 0.7825000286102295, + "covertype_test_precision": 0.7816225290298462, + "covertype_test_recall": 0.7825000286102295, + "covertype_test_f1-score": 0.7811834216117859, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7825000286102295 + }, + "5": { + "covertype_test_loss": 0.5222248435020447, + "covertype_test_accuracy": 0.7921052575111389, + "covertype_test_precision": 0.7907108664512634, + "covertype_test_recall": 0.7921052575111389, + "covertype_test_f1-score": 0.7903883457183838, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7921052575111389 + }, + "10": { + "covertype_test_loss": 0.49499088525772095, + "covertype_test_accuracy": 0.7994444370269775, + "covertype_test_precision": 0.7967482209205627, + "covertype_test_recall": 0.7994444370269775, + "covertype_test_f1-score": 0.7970860004425049, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7994444370269775 + }, + "20": { + "covertype_test_loss": 0.48574352264404297, + "covertype_test_accuracy": 0.8062499761581421, + "covertype_test_precision": 0.8050175309181213, + "covertype_test_recall": 0.8062499761581421, + "covertype_test_f1-score": 0.8046454191207886, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8062499761581421 + }, + "50": { + "covertype_test_loss": 0.47890526056289673, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8095371127128601, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8076035976409912, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8100000023841858 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6161527633666992, + "lr": 0.0, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.764043927192688, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7644385695457458, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5698348879814148, + "lr": 0.0, + "covertype_test_accuracy": 0.7680000066757202, + "covertype_test_precision": 0.7678996324539185, + "covertype_test_recall": 0.7680000066757202, + "covertype_test_f1-score": 0.7655264139175415, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7680000066757202 + }, + "5": { + "covertype_test_loss": 0.5456106662750244, + "covertype_test_accuracy": 0.7778947353363037, + "covertype_test_precision": 0.7808247804641724, + "covertype_test_recall": 0.7778947353363037, + "covertype_test_f1-score": 0.7771905064582825, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7778947353363037 + }, + "10": { + "covertype_test_loss": 0.5256140232086182, + "covertype_test_accuracy": 0.7838888764381409, + "covertype_test_precision": 0.7865862250328064, + "covertype_test_recall": 0.7838888764381409, + "covertype_test_f1-score": 0.7834140658378601, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7838888764381409 + }, + "20": { + "covertype_test_loss": 0.5105636119842529, + "covertype_test_accuracy": 0.7906249761581421, + "covertype_test_precision": 0.7923634648323059, + "covertype_test_recall": 0.7906249761581421, + "covertype_test_f1-score": 0.7900943756103516, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7906249761581421 + }, + "50": { + "covertype_test_loss": 0.48908573389053345, + "covertype_test_accuracy": 0.7960000038146973, + "covertype_test_precision": 0.7973220348358154, + "covertype_test_recall": 0.7960000038146973, + "covertype_test_f1-score": 0.7953672409057617, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7960000038146973 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5762994289398193, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7647647857666016, + "covertype_val_precision": 0.7580329775810242, + "covertype_val_recall": 0.7647647857666016, + "covertype_val_f1-score": 0.7570282816886902, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7647647857666016 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5470230579376221, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7839999794960022, + "covertype_test_precision": 0.784989058971405, + "covertype_test_recall": 0.7839999794960022, + "covertype_test_f1-score": 0.7811942100524902, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7839999794960022 + }, + "5": { + "covertype_test_loss": 0.5245696902275085, + "covertype_test_accuracy": 0.7905263304710388, + "covertype_test_precision": 0.7916097640991211, + "covertype_test_recall": 0.7905263304710388, + "covertype_test_f1-score": 0.7885157465934753, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7905263304710388 + }, + "10": { + "covertype_test_loss": 0.5084190368652344, + "covertype_test_accuracy": 0.7927777767181396, + "covertype_test_precision": 0.7932943105697632, + "covertype_test_recall": 0.7927777767181396, + "covertype_test_f1-score": 0.7907739877700806, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7927777767181396 + }, + "20": { + "covertype_test_loss": 0.49276912212371826, + "covertype_test_accuracy": 0.7962499856948853, + "covertype_test_precision": 0.7970224022865295, + "covertype_test_recall": 0.7962499856948853, + "covertype_test_f1-score": 0.7947866320610046, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7962499856948853 + }, + "50": { + "covertype_test_loss": 0.4859668016433716, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.789706289768219, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7889581918716431, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7919999957084656 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5864987373352051, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7507507801055908, + "covertype_val_precision": 0.7522179484367371, + "covertype_val_recall": 0.7507507801055908, + "covertype_val_f1-score": 0.7500944137573242, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7507507801055908 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5400399565696716, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7804999947547913, + "covertype_test_precision": 0.783298909664154, + "covertype_test_recall": 0.7804999947547913, + "covertype_test_f1-score": 0.7807748913764954, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7804999947547913 + }, + "5": { + "covertype_test_loss": 0.5228978395462036, + "covertype_test_accuracy": 0.7863157987594604, + "covertype_test_precision": 0.7874590754508972, + "covertype_test_recall": 0.7863157987594604, + "covertype_test_f1-score": 0.785471498966217, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7863157987594604 + }, + "10": { + "covertype_test_loss": 0.5004892945289612, + "covertype_test_accuracy": 0.7955555319786072, + "covertype_test_precision": 0.7937260866165161, + "covertype_test_recall": 0.7955555319786072, + "covertype_test_f1-score": 0.7940647602081299, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7955555319786072 + }, + "20": { + "covertype_test_loss": 0.48725470900535583, + "covertype_test_accuracy": 0.8031250238418579, + "covertype_test_precision": 0.8027459383010864, + "covertype_test_recall": 0.8031250238418579, + "covertype_test_f1-score": 0.8017874956130981, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8031250238418579 + }, + "50": { + "covertype_test_loss": 0.48275935649871826, + "covertype_test_accuracy": 0.7979999780654907, + "covertype_test_precision": 0.7973335981369019, + "covertype_test_recall": 0.7979999780654907, + "covertype_test_f1-score": 0.795954704284668, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7979999780654907 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5609516501426697, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.781781792640686, + "covertype_val_precision": 0.7750645279884338, + "covertype_val_recall": 0.781781792640686, + "covertype_val_f1-score": 0.7767245173454285, + "covertype_val_support": 999.0, + "covertype_val_score": 0.781781792640686 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5498130917549133, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7844850420951843, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.7830632328987122, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5310184359550476, + "covertype_test_accuracy": 0.7931578755378723, + "covertype_test_precision": 0.7900883555412292, + "covertype_test_recall": 0.7931578755378723, + "covertype_test_f1-score": 0.7899436950683594, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7931578755378723 + }, + "10": { + "covertype_test_loss": 0.5124737620353699, + "covertype_test_accuracy": 0.7977777719497681, + "covertype_test_precision": 0.7954771518707275, + "covertype_test_recall": 0.7977777719497681, + "covertype_test_f1-score": 0.7945905923843384, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7977777719497681 + }, + "20": { + "covertype_test_loss": 0.5040761232376099, + "covertype_test_accuracy": 0.7993749976158142, + "covertype_test_precision": 0.7990077137947083, + "covertype_test_recall": 0.7993749976158142, + "covertype_test_f1-score": 0.797379195690155, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7993749976158142 + }, + "50": { + "covertype_test_loss": 0.5142368078231812, + "covertype_test_accuracy": 0.7940000295639038, + "covertype_test_precision": 0.7978309392929077, + "covertype_test_recall": 0.7940000295639038, + "covertype_test_f1-score": 0.7911686301231384, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7940000295639038 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5514010787010193, + "std": 0.011088213656818714, + "n": 5, + "ci95": 0.013765628514454068 + }, + "lr": { + "mean": 0.00040000006556510924, + "std": 0.0004183300818366703, + "n": 5, + "ci95": 0.0005193421304110178 + }, + "covertype_test_accuracy": { + "mean": 0.7802999973297119, + "std": 0.007216292746676577, + "n": 5, + "ci95": 0.008958774449770081 + }, + "covertype_test_precision": { + "mean": 0.7804590344429017, + "std": 0.007139451118469972, + "n": 5, + "ci95": 0.008863378262333934 + }, + "covertype_test_recall": { + "mean": 0.7802999973297119, + "std": 0.007216292746676577, + "n": 5, + "ci95": 0.008958774449770081 + }, + "covertype_test_f1-score": { + "mean": 0.7783484339714051, + "std": 0.00722247913029386, + "n": 5, + "ci95": 0.008966454628143182 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7802999973297119, + "std": 0.007216292746676577, + "n": 5, + "ci95": 0.008958774449770081 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5292642951011658, + "std": 0.009777599536162458, + "n": 5, + "ci95": 0.01213854703233839 + }, + "covertype_test_accuracy": { + "mean": 0.7879999995231628, + "std": 0.0062207731169008655, + "n": 5, + "ci95": 0.0077228717312188356 + }, + "covertype_test_precision": { + "mean": 0.7881385684013367, + "std": 0.004370949307083405, + "n": 5, + "ci95": 0.0054263803241038425 + }, + "covertype_test_recall": { + "mean": 0.7879999995231628, + "std": 0.0062207731169008655, + "n": 5, + "ci95": 0.0077228717312188356 + }, + "covertype_test_f1-score": { + "mean": 0.7863019585609436, + "std": 0.005444489985308059, + "n": 5, + "ci95": 0.00675914343897293 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7879999995231628, + "std": 0.0062207731169008655, + "n": 5, + "ci95": 0.0077228717312188356 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5083974003791809, + "std": 0.011782424198577415, + "n": 5, + "ci95": 0.014627466563795008 + }, + "covertype_test_accuracy": { + "mean": 0.7938888788223266, + "std": 0.006123725276229226, + "n": 5, + "ci95": 0.0076023902394147715 + }, + "covertype_test_precision": { + "mean": 0.7931663990020752, + "std": 0.003930563831579781, + "n": 5, + "ci95": 0.004879657195692969 + }, + "covertype_test_recall": { + "mean": 0.7938888788223266, + "std": 0.006123725276229226, + "n": 5, + "ci95": 0.0076023902394147715 + }, + "covertype_test_f1-score": { + "mean": 0.7919858813285827, + "std": 0.005292971255829007, + "n": 5, + "ci95": 0.006571038248403476 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7938888788223266, + "std": 0.006123725276229226, + "n": 5, + "ci95": 0.0076023902394147715 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.49608141779899595, + "std": 0.010832860084860799, + "n": 5, + "ci95": 0.01344861600728165 + }, + "covertype_test_accuracy": { + "mean": 0.7991249918937683, + "std": 0.006069268641357797, + "n": 5, + "ci95": 0.007534784236411179 + }, + "covertype_test_precision": { + "mean": 0.7992314100265503, + "std": 0.004947967520991455, + "n": 5, + "ci95": 0.006142728207051375 + }, + "covertype_test_recall": { + "mean": 0.7991249918937683, + "std": 0.006069268641357797, + "n": 5, + "ci95": 0.007534784236411179 + }, + "covertype_test_f1-score": { + "mean": 0.7977386236190795, + "std": 0.005730950155522958, + "n": 5, + "ci95": 0.007114773697318522 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7991249918937683, + "std": 0.006069268641357797, + "n": 5, + "ci95": 0.007534784236411179 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4901907920837402, + "std": 0.013963018820749533, + "n": 5, + "ci95": 0.017334598337990084 + }, + "covertype_test_accuracy": { + "mean": 0.7980000019073487, + "std": 0.00707106528307843, + "n": 5, + "ci95": 0.008778479645226961 + }, + "covertype_test_precision": { + "mean": 0.7983459949493408, + "std": 0.00711028034543666, + "n": 5, + "ci95": 0.008827163770308061 + }, + "covertype_test_recall": { + "mean": 0.7980000019073487, + "std": 0.00707106528307843, + "n": 5, + "ci95": 0.008778479645226961 + }, + "covertype_test_f1-score": { + "mean": 0.7958104729652404, + "std": 0.0072075569388368515, + "n": 5, + "ci95": 0.008947929250604806 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7980000019073487, + "std": 0.00707106528307843, + "n": 5, + "ci95": 0.008778479645226961 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..d0688364b6ba247bf05357a4fee2e8e86796eebb --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:4f9130b4e4f0b01540777d6d058305e083de8455beb521547fbd08a11ed21a62 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..758650332932f64251c0befcba42b67020bcd759 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:0b80e48f17c87791d9982fa23d55db7ce5aa36940a59c4916ae80def2f87a7b7 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..35bbe20116700a0407ce840459eecd72720b974b --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:90e74a4c979c2f249d3be26f3ee62d38a686837d20f2c50d9ff93890d18f126e +size 11498832 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..cd09be778e2dd6341e2011ee5b807ebe3ca5cec2 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_192651/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.0001 +sw_s_y_weight: 0.0001 +sw_seed: 0 +sw_z_weight: 0.0001 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.0015 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..9a4c13437cc7f68a74eecdb48fc3d72d46185ea1 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T19:51:37.595367+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.00025, + "sw_z_weight": 0.00025, + "sw_s_y_weight": 0.00025, + "lambda_joint": 0.0015, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..c4bbf68cbc99555a9eb4c269a13fd4de134a03b6 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.00025, + "sw_z_weight": 0.00025, + "sw_s_y_weight": 0.00025, + "lambda_joint": 0.0015, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.0015", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.00025", + "--sw-z-end-weight", + "0.00025", + "--sw-s-y-end-weight", + "0.00025", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..f79e555e64c32e102fe3ccbe74d20d1b5e757e88 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.0015, + "s_x": 0.00025, + "z": 0.00025, + "s_y": 0.00025 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.0015", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00025", + "--sw_z_weight", + "0.00025", + "--sw_s_y_weight", + "0.00025", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..17be06692cafcce0eb53c0f15e42286adc28dce6 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp39yg2z9q", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp39yg2z9q/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6353235244750977, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7267267107963562, + "covertype_val_precision": 0.7249628305435181, + "covertype_val_recall": 0.7267267107963562, + "covertype_val_f1-score": 0.7150805592536926, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7267267107963562 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6429812908172607, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7129999995231628, + "covertype_test_precision": 0.7084168195724487, + "covertype_test_recall": 0.7129999995231628, + "covertype_test_f1-score": 0.7018605470657349, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7129999995231628 + }, + "5": { + "covertype_test_loss": 0.6290323138237, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.7162660956382751, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7121437788009644, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7200000286102295 + }, + "10": { + "covertype_test_loss": 0.6196401715278625, + "covertype_test_accuracy": 0.722777783870697, + "covertype_test_precision": 0.7186694145202637, + "covertype_test_recall": 0.722777783870697, + "covertype_test_f1-score": 0.716151237487793, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.722777783870697 + }, + "20": { + "covertype_test_loss": 0.6016789078712463, + "covertype_test_accuracy": 0.7243750095367432, + "covertype_test_precision": 0.7206059694290161, + "covertype_test_recall": 0.7243750095367432, + "covertype_test_f1-score": 0.7186362743377686, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7243750095367432 + }, + "50": { + "covertype_test_loss": 0.5581087470054626, + "covertype_test_accuracy": 0.7509999871253967, + "covertype_test_precision": 0.743344247341156, + "covertype_test_recall": 0.7509999871253967, + "covertype_test_f1-score": 0.745536208152771, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7509999871253967 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6313711404800415, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7317317128181458, + "covertype_val_precision": 0.7337791323661804, + "covertype_val_recall": 0.7317317128181458, + "covertype_val_f1-score": 0.7238311767578125, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7317317128181458 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6190480589866638, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7275000214576721, + "covertype_test_precision": 0.736861526966095, + "covertype_test_recall": 0.7275000214576721, + "covertype_test_f1-score": 0.7182266712188721, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7275000214576721 + }, + "5": { + "covertype_test_loss": 0.6025301218032837, + "covertype_test_accuracy": 0.7357894778251648, + "covertype_test_precision": 0.7432894706726074, + "covertype_test_recall": 0.7357894778251648, + "covertype_test_f1-score": 0.7297165989875793, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7357894778251648 + }, + "10": { + "covertype_test_loss": 0.5918134450912476, + "covertype_test_accuracy": 0.7416666746139526, + "covertype_test_precision": 0.7493757605552673, + "covertype_test_recall": 0.7416666746139526, + "covertype_test_f1-score": 0.7366288900375366, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7416666746139526 + }, + "20": { + "covertype_test_loss": 0.5730724930763245, + "covertype_test_accuracy": 0.7481250166893005, + "covertype_test_precision": 0.7546852231025696, + "covertype_test_recall": 0.7481250166893005, + "covertype_test_f1-score": 0.7441102862358093, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7481250166893005 + }, + "50": { + "covertype_test_loss": 0.5379462838172913, + "covertype_test_accuracy": 0.7670000195503235, + "covertype_test_precision": 0.7687735557556152, + "covertype_test_recall": 0.7670000195503235, + "covertype_test_f1-score": 0.7631956338882446, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7670000195503235 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6517603993415833, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7237237095832825, + "covertype_val_precision": 0.7062098383903503, + "covertype_val_recall": 0.7237237095832825, + "covertype_val_f1-score": 0.7111070156097412, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7237237095832825 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6424896121025085, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7110000252723694, + "covertype_test_precision": 0.7014526724815369, + "covertype_test_recall": 0.7110000252723694, + "covertype_test_f1-score": 0.6983311772346497, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7110000252723694 + }, + "5": { + "covertype_test_loss": 0.6297010779380798, + "covertype_test_accuracy": 0.719473659992218, + "covertype_test_precision": 0.710414707660675, + "covertype_test_recall": 0.719473659992218, + "covertype_test_f1-score": 0.7084832191467285, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.719473659992218 + }, + "10": { + "covertype_test_loss": 0.6183375120162964, + "covertype_test_accuracy": 0.7244444489479065, + "covertype_test_precision": 0.71437007188797, + "covertype_test_recall": 0.7244444489479065, + "covertype_test_f1-score": 0.712792158126831, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7244444489479065 + }, + "20": { + "covertype_test_loss": 0.6063158512115479, + "covertype_test_accuracy": 0.7262499928474426, + "covertype_test_precision": 0.7174510955810547, + "covertype_test_recall": 0.7262499928474426, + "covertype_test_f1-score": 0.714443027973175, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7262499928474426 + }, + "50": { + "covertype_test_loss": 0.5681262612342834, + "covertype_test_accuracy": 0.7350000143051147, + "covertype_test_precision": 0.7358850240707397, + "covertype_test_recall": 0.7350000143051147, + "covertype_test_f1-score": 0.7199212908744812, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7350000143051147 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6439486145973206, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7217217087745667, + "covertype_val_precision": 0.7135587930679321, + "covertype_val_recall": 0.7217217087745667, + "covertype_val_f1-score": 0.7058697938919067, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7217217087745667 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.657065749168396, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7045000195503235, + "covertype_test_precision": 0.6965590119361877, + "covertype_test_recall": 0.7045000195503235, + "covertype_test_f1-score": 0.6887393593788147, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7045000195503235 + }, + "5": { + "covertype_test_loss": 0.6312627196311951, + "covertype_test_accuracy": 0.714736819267273, + "covertype_test_precision": 0.7056571841239929, + "covertype_test_recall": 0.714736819267273, + "covertype_test_f1-score": 0.7008100748062134, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.714736819267273 + }, + "10": { + "covertype_test_loss": 0.6181619167327881, + "covertype_test_accuracy": 0.7211111187934875, + "covertype_test_precision": 0.7112002372741699, + "covertype_test_recall": 0.7211111187934875, + "covertype_test_f1-score": 0.7071771025657654, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7211111187934875 + }, + "20": { + "covertype_test_loss": 0.6077510118484497, + "covertype_test_accuracy": 0.7243750095367432, + "covertype_test_precision": 0.7181735038757324, + "covertype_test_recall": 0.7243750095367432, + "covertype_test_f1-score": 0.7104026675224304, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7243750095367432 + }, + "50": { + "covertype_test_loss": 0.5841270089149475, + "covertype_test_accuracy": 0.7360000014305115, + "covertype_test_precision": 0.744964599609375, + "covertype_test_recall": 0.7360000014305115, + "covertype_test_f1-score": 0.7184374332427979, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7360000014305115 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.7509621381759644, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6876876950263977, + "covertype_val_precision": 0.6737574934959412, + "covertype_val_recall": 0.6876876950263977, + "covertype_val_f1-score": 0.6586385369300842, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6876876950263977 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7679737210273743, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6809999942779541, + "covertype_test_precision": 0.6838003993034363, + "covertype_test_recall": 0.6809999942779541, + "covertype_test_f1-score": 0.6518423557281494, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6809999942779541 + }, + "5": { + "covertype_test_loss": 0.7533373832702637, + "covertype_test_accuracy": 0.6868420839309692, + "covertype_test_precision": 0.6930987238883972, + "covertype_test_recall": 0.6868420839309692, + "covertype_test_f1-score": 0.6586781740188599, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6868420839309692 + }, + "10": { + "covertype_test_loss": 0.7437148690223694, + "covertype_test_accuracy": 0.6888889074325562, + "covertype_test_precision": 0.695935845375061, + "covertype_test_recall": 0.6888889074325562, + "covertype_test_f1-score": 0.6594545841217041, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6888889074325562 + }, + "20": { + "covertype_test_loss": 0.7445888519287109, + "covertype_test_accuracy": 0.6831250190734863, + "covertype_test_precision": 0.6967414021492004, + "covertype_test_recall": 0.6831250190734863, + "covertype_test_f1-score": 0.6527374386787415, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6831250190734863 + }, + "50": { + "covertype_test_loss": 0.7722827792167664, + "covertype_test_accuracy": 0.6809999942779541, + "covertype_test_precision": 0.7099777460098267, + "covertype_test_recall": 0.6809999942779541, + "covertype_test_f1-score": 0.6473577618598938, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6809999942779541 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6659116864204406, + "std": 0.05866324594262351, + "n": 5, + "ci95": 0.07282836316935636 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7074000120162964, + "std": 0.016983088852972554, + "n": 5, + "ci95": 0.021083909402685518 + }, + "covertype_test_precision": { + "mean": 0.7054180860519409, + "std": 0.01974344485252092, + "n": 5, + "ci95": 0.024510794601101622 + }, + "covertype_test_recall": { + "mean": 0.7074000120162964, + "std": 0.016983088852972554, + "n": 5, + "ci95": 0.021083909402685518 + }, + "covertype_test_f1-score": { + "mean": 0.6918000221252442, + "std": 0.024739748845774432, + "n": 5, + "ci95": 0.03071353084384317 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7074000120162964, + "std": 0.016983088852972554, + "n": 5, + "ci95": 0.021083909402685518 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6491727232933044, + "std": 0.059437694183683144, + "n": 5, + "ci95": 0.07378981350933456 + }, + "covertype_test_accuracy": { + "mean": 0.7153684139251709, + "std": 0.01781484749737887, + "n": 5, + "ci95": 0.022116508599179373 + }, + "covertype_test_precision": { + "mean": 0.7137452363967896, + "std": 0.018587657196702946, + "n": 5, + "ci95": 0.023075924747038342 + }, + "covertype_test_recall": { + "mean": 0.7153684139251709, + "std": 0.01781484749737887, + "n": 5, + "ci95": 0.022116508599179373 + }, + "covertype_test_f1-score": { + "mean": 0.7019663691520691, + "std": 0.02641651524824489, + "n": 5, + "ci95": 0.03279517754693784 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7153684139251709, + "std": 0.01781484749737887, + "n": 5, + "ci95": 0.022116508599179373 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6383335828781128, + "std": 0.06005314580025242, + "n": 5, + "ci95": 0.07455387511425349 + }, + "covertype_test_accuracy": { + "mean": 0.71977778673172, + "std": 0.019142895356633317, + "n": 5, + "ci95": 0.023765233456557146 + }, + "covertype_test_precision": { + "mean": 0.7179102659225464, + "std": 0.019564548779216942, + "n": 5, + "ci95": 0.024288701397992867 + }, + "covertype_test_recall": { + "mean": 0.71977778673172, + "std": 0.019142895356633317, + "n": 5, + "ci95": 0.023765233456557146 + }, + "covertype_test_f1-score": { + "mean": 0.7064407944679261, + "std": 0.02852279680538026, + "n": 5, + "ci95": 0.03541005225622352 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.71977778673172, + "std": 0.019142895356633317, + "n": 5, + "ci95": 0.023765233456557146 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6266814231872558, + "std": 0.06740608634897421, + "n": 5, + "ci95": 0.08368229301954215 + }, + "covertype_test_accuracy": { + "mean": 0.7212500095367431, + "std": 0.02356009332738682, + "n": 5, + "ci95": 0.029249029875180507 + }, + "covertype_test_precision": { + "mean": 0.7215314388275147, + "std": 0.02087163596861739, + "n": 5, + "ci95": 0.025911404318604763 + }, + "covertype_test_recall": { + "mean": 0.7212500095367431, + "std": 0.02356009332738682, + "n": 5, + "ci95": 0.029249029875180507 + }, + "covertype_test_f1-score": { + "mean": 0.7080659389495849, + "std": 0.03360914112472718, + "n": 5, + "ci95": 0.041724570407095964 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7212500095367431, + "std": 0.02356009332738682, + "n": 5, + "ci95": 0.029249029875180507 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6041182160377503, + "std": 0.0954855818126655, + "n": 5, + "ci95": 0.11854200220171272 + }, + "covertype_test_accuracy": { + "mean": 0.7340000033378601, + "std": 0.03237283387909804, + "n": 5, + "ci95": 0.04018973830520973 + }, + "covertype_test_precision": { + "mean": 0.7405890345573425, + "std": 0.021096698221415393, + "n": 5, + "ci95": 0.026190811215020246 + }, + "covertype_test_recall": { + "mean": 0.7340000033378601, + "std": 0.03237283387909804, + "n": 5, + "ci95": 0.04018973830520973 + }, + "covertype_test_f1-score": { + "mean": 0.7188896656036377, + "std": 0.04413371464501725, + "n": 5, + "ci95": 0.05479045945264846 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7340000033378601, + "std": 0.03237283387909804, + "n": 5, + "ci95": 0.04018973830520973 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..6a34e678e7b989cad404afcff9198e407b13cfcb --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp5vj_zdni", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp5vj_zdni/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5875298380851746, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.7562525272369385, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7543278336524963, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5503047704696655, + "lr": 0.0, + "covertype_test_accuracy": 0.7745000123977661, + "covertype_test_precision": 0.7768591642379761, + "covertype_test_recall": 0.7745000123977661, + "covertype_test_f1-score": 0.774886965751648, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7745000123977661 + }, + "5": { + "covertype_test_loss": 0.5256981253623962, + "covertype_test_accuracy": 0.7815789580345154, + "covertype_test_precision": 0.7839207649230957, + "covertype_test_recall": 0.7815789580345154, + "covertype_test_f1-score": 0.7817860245704651, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7815789580345154 + }, + "10": { + "covertype_test_loss": 0.5015891194343567, + "covertype_test_accuracy": 0.7888888716697693, + "covertype_test_precision": 0.7895317673683167, + "covertype_test_recall": 0.7888888716697693, + "covertype_test_f1-score": 0.7883375883102417, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7888888716697693 + }, + "20": { + "covertype_test_loss": 0.48601263761520386, + "covertype_test_accuracy": 0.7962499856948853, + "covertype_test_precision": 0.7980712652206421, + "covertype_test_recall": 0.7962499856948853, + "covertype_test_f1-score": 0.7962276339530945, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7962499856948853 + }, + "50": { + "covertype_test_loss": 0.4695352613925934, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7962377667427063, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7950930595397949, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7950000166893005 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5640062689781189, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7727727890014648, + "covertype_val_precision": 0.7656459808349609, + "covertype_val_recall": 0.7727727890014648, + "covertype_val_f1-score": 0.7680479884147644, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7727727890014648 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5459082126617432, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7864624857902527, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.7855574488639832, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5189160704612732, + "covertype_test_accuracy": 0.7947368621826172, + "covertype_test_precision": 0.7930342555046082, + "covertype_test_recall": 0.7947368621826172, + "covertype_test_f1-score": 0.7934626936912537, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7947368621826172 + }, + "10": { + "covertype_test_loss": 0.49167636036872864, + "covertype_test_accuracy": 0.8022222518920898, + "covertype_test_precision": 0.7991636991500854, + "covertype_test_recall": 0.8022222518920898, + "covertype_test_f1-score": 0.8002473711967468, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8022222518920898 + }, + "20": { + "covertype_test_loss": 0.47166863083839417, + "covertype_test_accuracy": 0.8062499761581421, + "covertype_test_precision": 0.8055741786956787, + "covertype_test_recall": 0.8062499761581421, + "covertype_test_f1-score": 0.8052660226821899, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8062499761581421 + }, + "50": { + "covertype_test_loss": 0.4605899155139923, + "covertype_test_accuracy": 0.8029999732971191, + "covertype_test_precision": 0.8026052117347717, + "covertype_test_recall": 0.8029999732971191, + "covertype_test_f1-score": 0.802130401134491, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8029999732971191 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6191531419754028, + "lr": 0.0, + "covertype_val_accuracy": 0.7577577829360962, + "covertype_val_precision": 0.7597475647926331, + "covertype_val_recall": 0.7577577829360962, + "covertype_val_f1-score": 0.7540039420127869, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7577577829360962 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5705549716949463, + "lr": 0.0, + "covertype_test_accuracy": 0.7670000195503235, + "covertype_test_precision": 0.7737225890159607, + "covertype_test_recall": 0.7670000195503235, + "covertype_test_f1-score": 0.7660374045372009, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7670000195503235 + }, + "5": { + "covertype_test_loss": 0.5505751371383667, + "covertype_test_accuracy": 0.7731578946113586, + "covertype_test_precision": 0.7805991172790527, + "covertype_test_recall": 0.7731578946113586, + "covertype_test_f1-score": 0.7723032832145691, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7731578946113586 + }, + "10": { + "covertype_test_loss": 0.5323288440704346, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7863585948944092, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7784405946731567, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7799999713897705 + }, + "20": { + "covertype_test_loss": 0.5123790502548218, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7919829487800598, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7842214107513428, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7850000262260437 + }, + "50": { + "covertype_test_loss": 0.49914678931236267, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.786339521408081, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7786272764205933, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.58698570728302, + "lr": 0.0, + "covertype_val_accuracy": 0.7677677869796753, + "covertype_val_precision": 0.762988805770874, + "covertype_val_recall": 0.7677677869796753, + "covertype_val_f1-score": 0.7649877667427063, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7677677869796753 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5706616640090942, + "lr": 0.0, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7803552746772766, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.7801641821861267, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.781000018119812 + }, + "5": { + "covertype_test_loss": 0.5513636469841003, + "covertype_test_accuracy": 0.7873684167861938, + "covertype_test_precision": 0.7860973477363586, + "covertype_test_recall": 0.7873684167861938, + "covertype_test_f1-score": 0.7866208553314209, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7873684167861938 + }, + "10": { + "covertype_test_loss": 0.5323260426521301, + "covertype_test_accuracy": 0.7888888716697693, + "covertype_test_precision": 0.7867186069488525, + "covertype_test_recall": 0.7888888716697693, + "covertype_test_f1-score": 0.7876465916633606, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7888888716697693 + }, + "20": { + "covertype_test_loss": 0.5131425857543945, + "covertype_test_accuracy": 0.7931249737739563, + "covertype_test_precision": 0.7922840118408203, + "covertype_test_recall": 0.7931249737739563, + "covertype_test_f1-score": 0.7924662828445435, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7931249737739563 + }, + "50": { + "covertype_test_loss": 0.477784126996994, + "covertype_test_accuracy": 0.8009999990463257, + "covertype_test_precision": 0.8013526201248169, + "covertype_test_recall": 0.8009999990463257, + "covertype_test_f1-score": 0.8004562258720398, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8009999990463257 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5734596252441406, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7877877950668335, + "covertype_val_precision": 0.7803319096565247, + "covertype_val_recall": 0.7877877950668335, + "covertype_val_f1-score": 0.781753420829773, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7877877950668335 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5658016204833984, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7884363532066345, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7866082191467285, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7900000214576721 + }, + "5": { + "covertype_test_loss": 0.5454872250556946, + "covertype_test_accuracy": 0.7978947162628174, + "covertype_test_precision": 0.7954570651054382, + "covertype_test_recall": 0.7978947162628174, + "covertype_test_f1-score": 0.795174241065979, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7978947162628174 + }, + "10": { + "covertype_test_loss": 0.5222002267837524, + "covertype_test_accuracy": 0.8050000071525574, + "covertype_test_precision": 0.802649199962616, + "covertype_test_recall": 0.8050000071525574, + "covertype_test_f1-score": 0.8029202818870544, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8050000071525574 + }, + "20": { + "covertype_test_loss": 0.5084749460220337, + "covertype_test_accuracy": 0.8081250190734863, + "covertype_test_precision": 0.8076794743537903, + "covertype_test_recall": 0.8081250190734863, + "covertype_test_f1-score": 0.8064972162246704, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8081250190734863 + }, + "50": { + "covertype_test_loss": 0.5087546110153198, + "covertype_test_accuracy": 0.8059999942779541, + "covertype_test_precision": 0.8095921874046326, + "covertype_test_recall": 0.8059999942779541, + "covertype_test_f1-score": 0.8038106560707092, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8059999942779541 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5606462478637695, + "std": 0.011717775724115828, + "n": 5, + "ci95": 0.014547207749254836 + }, + "lr": { + "mean": 0.00020000003278255462, + "std": 0.0002738613236419447, + "n": 5, + "ci95": 0.0003399892320268738 + }, + "covertype_test_accuracy": { + "mean": 0.779800009727478, + "std": 0.009250669470627157, + "n": 5, + "ci95": 0.011484381829560636 + }, + "covertype_test_precision": { + "mean": 0.7811671733856201, + "std": 0.006235408316595445, + "n": 5, + "ci95": 0.007741040818545769 + }, + "covertype_test_recall": { + "mean": 0.779800009727478, + "std": 0.009250669470627157, + "n": 5, + "ci95": 0.011484381829560636 + }, + "covertype_test_f1-score": { + "mean": 0.7786508440971375, + "std": 0.0084642902388309, + "n": 5, + "ci95": 0.010508119582870235 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.779800009727478, + "std": 0.009250669470627157, + "n": 5, + "ci95": 0.011484381829560636 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5384080410003662, + "std": 0.015062201638103186, + "n": 5, + "ci95": 0.01869919526960283 + }, + "covertype_test_accuracy": { + "mean": 0.7869473695755005, + "std": 0.009995840854854875, + "n": 5, + "ci95": 0.01240948597819618 + }, + "covertype_test_precision": { + "mean": 0.7878217101097107, + "std": 0.006241512668130358, + "n": 5, + "ci95": 0.00774861915696456 + }, + "covertype_test_recall": { + "mean": 0.7869473695755005, + "std": 0.009995840854854875, + "n": 5, + "ci95": 0.01240948597819618 + }, + "covertype_test_f1-score": { + "mean": 0.7858694195747375, + "std": 0.00929403492828124, + "n": 5, + "ci95": 0.011538218524893278 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7869473695755005, + "std": 0.009995840854854875, + "n": 5, + "ci95": 0.01240948597819618 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5160241186618805, + "std": 0.018512993035741384, + "n": 5, + "ci95": 0.022983231808847326 + }, + "covertype_test_accuracy": { + "mean": 0.7929999947547912, + "std": 0.010390543751224977, + "n": 5, + "ci95": 0.012899495786193397 + }, + "covertype_test_precision": { + "mean": 0.792884373664856, + "std": 0.007527021288522148, + "n": 5, + "ci95": 0.00934453304067293 + }, + "covertype_test_recall": { + "mean": 0.7929999947547912, + "std": 0.010390543751224977, + "n": 5, + "ci95": 0.012899495786193397 + }, + "covertype_test_f1-score": { + "mean": 0.791518485546112, + "std": 0.010029148812979703, + "n": 5, + "ci95": 0.012450836640468041 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7929999947547912, + "std": 0.010390543751224977, + "n": 5, + "ci95": 0.012899495786193397 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.4983355700969696, + "std": 0.018589340400776012, + "n": 5, + "ci95": 0.023078014385883784 + }, + "covertype_test_accuracy": { + "mean": 0.7977499961853027, + "std": 0.00956678312192545, + "n": 5, + "ci95": 0.011876825845053066 + }, + "covertype_test_precision": { + "mean": 0.7991183757781982, + "std": 0.007309054137239539, + "n": 5, + "ci95": 0.009073934464042414 + }, + "covertype_test_recall": { + "mean": 0.7977499961853027, + "std": 0.00956678312192545, + "n": 5, + "ci95": 0.011876825845053066 + }, + "covertype_test_f1-score": { + "mean": 0.7969357132911682, + "std": 0.00925941503063167, + "n": 5, + "ci95": 0.011495239135696594 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7977499961853027, + "std": 0.00956678312192545, + "n": 5, + "ci95": 0.011876825845053066 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4831621408462524, + "std": 0.020215116552950052, + "n": 5, + "ci95": 0.02509635848089713 + }, + "covertype_test_accuracy": { + "mean": 0.7967999935150146, + "std": 0.010733126940640861, + "n": 5, + "ci95": 0.01332480080526614 + }, + "covertype_test_precision": { + "mean": 0.7992254614830017, + "std": 0.008636988674613924, + "n": 5, + "ci95": 0.010722518636279028 + }, + "covertype_test_recall": { + "mean": 0.7967999935150146, + "std": 0.010733126940640861, + "n": 5, + "ci95": 0.01332480080526614 + }, + "covertype_test_f1-score": { + "mean": 0.7960235238075256, + "std": 0.010260085453646832, + "n": 5, + "ci95": 0.012737536383473512 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7967999935150146, + "std": 0.010733126940640861, + "n": 5, + "ci95": 0.01332480080526614 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..e6507b2079352f3ecf7717f213fc84307be5ae3a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:dfffaca861945e97b401eee304fbd23e36c3f5377dc650250545d59fb6d16ece +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..e6b81368caa733cb54b81bf6d7d9985852c13178 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9969f0892599f7ac4388de9c87dc8f6f9fda1d580d01900a4fd01165c6a7c954 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..e25449098b6d0af721b4c4341f578d606de96a69 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:6bc12e364ab99eea55e01175b911ae7b5f23939d8e4eec17461e80dcb607181b +size 11498832 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..71707c95b3bcea8d16190d40ae93c2b2284faca9 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_192449/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00025 +sw_s_y_weight: 0.00025 +sw_seed: 0 +sw_z_weight: 0.00025 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.0015 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..2079b2b86ce9b84a6681a4832177460d778b9571 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T20:03:35.103597+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0005, + "sw_z_weight": 0.0005, + "sw_s_y_weight": 0.0005, + "lambda_joint": 0.0015, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..5a1b55b2ac6cff99e8f85ec5f1b7f4c5dee03719 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0005, + "sw_z_weight": 0.0005, + "sw_s_y_weight": 0.0005, + "lambda_joint": 0.0015, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.0015", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.0005", + "--sw-z-end-weight", + "0.0005", + "--sw-s-y-end-weight", + "0.0005", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..6fcc7e3dd70e9561cd506282936c895baa9075d9 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.0015, + "s_x": 0.0005, + "z": 0.0005, + "s_y": 0.0005 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.0015", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.0005", + "--sw_z_weight", + "0.0005", + "--sw_s_y_weight", + "0.0005", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..424aa015da217ed519c3a661d704d7866495f74c --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpg7idbwi4", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpg7idbwi4/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6912439465522766, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6946946978569031, + "covertype_val_precision": 0.7002719640731812, + "covertype_val_recall": 0.6946946978569031, + "covertype_val_f1-score": 0.6796066164970398, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6946946978569031 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6820260882377625, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.690500020980835, + "covertype_test_precision": 0.7039814591407776, + "covertype_test_recall": 0.690500020980835, + "covertype_test_f1-score": 0.6763444542884827, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.690500020980835 + }, + "5": { + "covertype_test_loss": 0.6690931916236877, + "covertype_test_accuracy": 0.6978947520256042, + "covertype_test_precision": 0.7132308483123779, + "covertype_test_recall": 0.6978947520256042, + "covertype_test_f1-score": 0.6870503425598145, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6978947520256042 + }, + "10": { + "covertype_test_loss": 0.659876823425293, + "covertype_test_accuracy": 0.6994444727897644, + "covertype_test_precision": 0.7177313566207886, + "covertype_test_recall": 0.6994444727897644, + "covertype_test_f1-score": 0.6885239481925964, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6994444727897644 + }, + "20": { + "covertype_test_loss": 0.6417750716209412, + "covertype_test_accuracy": 0.6974999904632568, + "covertype_test_precision": 0.7159839272499084, + "covertype_test_recall": 0.6974999904632568, + "covertype_test_f1-score": 0.686326801776886, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6974999904632568 + }, + "50": { + "covertype_test_loss": 0.6039610505104065, + "covertype_test_accuracy": 0.7089999914169312, + "covertype_test_precision": 0.7329185009002686, + "covertype_test_recall": 0.7089999914169312, + "covertype_test_f1-score": 0.7000465393066406, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7089999914169312 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6548039317131042, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7327327132225037, + "covertype_val_precision": 0.6984724998474121, + "covertype_val_recall": 0.7327327132225037, + "covertype_val_f1-score": 0.7094314694404602, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7327327132225037 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.660495936870575, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7145000100135803, + "covertype_test_precision": 0.6863852739334106, + "covertype_test_recall": 0.7145000100135803, + "covertype_test_f1-score": 0.694259762763977, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7145000100135803 + }, + "5": { + "covertype_test_loss": 0.6426041722297668, + "covertype_test_accuracy": 0.7231578826904297, + "covertype_test_precision": 0.700444221496582, + "covertype_test_recall": 0.7231578826904297, + "covertype_test_f1-score": 0.7068489789962769, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7231578826904297 + }, + "10": { + "covertype_test_loss": 0.6337025761604309, + "covertype_test_accuracy": 0.7266666889190674, + "covertype_test_precision": 0.7080222964286804, + "covertype_test_recall": 0.7266666889190674, + "covertype_test_f1-score": 0.7126582264900208, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7266666889190674 + }, + "20": { + "covertype_test_loss": 0.616350531578064, + "covertype_test_accuracy": 0.7293750047683716, + "covertype_test_precision": 0.7158285975456238, + "covertype_test_recall": 0.7293750047683716, + "covertype_test_f1-score": 0.7175366282463074, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7293750047683716 + }, + "50": { + "covertype_test_loss": 0.5824041962623596, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7335512638092041, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7294421195983887, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7400000095367432 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6226291656494141, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7337337136268616, + "covertype_val_precision": 0.7255426645278931, + "covertype_val_recall": 0.7337337136268616, + "covertype_val_f1-score": 0.7289210557937622, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7337337136268616 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6392652988433838, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7250000238418579, + "covertype_test_precision": 0.7149962186813354, + "covertype_test_recall": 0.7250000238418579, + "covertype_test_f1-score": 0.7189135551452637, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7250000238418579 + }, + "5": { + "covertype_test_loss": 0.6191917657852173, + "covertype_test_accuracy": 0.7326315641403198, + "covertype_test_precision": 0.721906840801239, + "covertype_test_recall": 0.7326315641403198, + "covertype_test_f1-score": 0.725496232509613, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7326315641403198 + }, + "10": { + "covertype_test_loss": 0.6084849834442139, + "covertype_test_accuracy": 0.7383333444595337, + "covertype_test_precision": 0.7244588732719421, + "covertype_test_recall": 0.7383333444595337, + "covertype_test_f1-score": 0.7297980785369873, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7383333444595337 + }, + "20": { + "covertype_test_loss": 0.5982347726821899, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7279642820358276, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7322991490364075, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7400000095367432 + }, + "50": { + "covertype_test_loss": 0.5518118143081665, + "covertype_test_accuracy": 0.7429999709129333, + "covertype_test_precision": 0.7344644069671631, + "covertype_test_recall": 0.7429999709129333, + "covertype_test_f1-score": 0.7352216243743896, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7429999709129333 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.7605172395706177, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6816816926002502, + "covertype_val_precision": 0.6992824673652649, + "covertype_val_recall": 0.6816816926002502, + "covertype_val_f1-score": 0.6669840812683105, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6816816926002502 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7630678415298462, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6729999780654907, + "covertype_test_precision": 0.6800085306167603, + "covertype_test_recall": 0.6729999780654907, + "covertype_test_f1-score": 0.6572607755661011, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6729999780654907 + }, + "5": { + "covertype_test_loss": 0.7463381290435791, + "covertype_test_accuracy": 0.6794736981391907, + "covertype_test_precision": 0.6855992674827576, + "covertype_test_recall": 0.6794736981391907, + "covertype_test_f1-score": 0.6670904755592346, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6794736981391907 + }, + "10": { + "covertype_test_loss": 0.7162119746208191, + "covertype_test_accuracy": 0.6822222471237183, + "covertype_test_precision": 0.6915964484214783, + "covertype_test_recall": 0.6822222471237183, + "covertype_test_f1-score": 0.6716518402099609, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6822222471237183 + }, + "20": { + "covertype_test_loss": 0.6981574892997742, + "covertype_test_accuracy": 0.6781250238418579, + "covertype_test_precision": 0.692330539226532, + "covertype_test_recall": 0.6781250238418579, + "covertype_test_f1-score": 0.6686756610870361, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6781250238418579 + }, + "50": { + "covertype_test_loss": 0.6750437021255493, + "covertype_test_accuracy": 0.6819999814033508, + "covertype_test_precision": 0.7040159702301025, + "covertype_test_recall": 0.6819999814033508, + "covertype_test_f1-score": 0.6739931106567383, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6819999814033508 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6796738505363464, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7247247099876404, + "covertype_val_precision": 0.7146825790405273, + "covertype_val_recall": 0.7247247099876404, + "covertype_val_f1-score": 0.7081553339958191, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7247247099876404 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6688060760498047, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7099999785423279, + "covertype_test_precision": 0.7048736214637756, + "covertype_test_recall": 0.7099999785423279, + "covertype_test_f1-score": 0.6923960447311401, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7099999785423279 + }, + "5": { + "covertype_test_loss": 0.6521787047386169, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.712273359298706, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7057695388793945, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7200000286102295 + }, + "10": { + "covertype_test_loss": 0.6313969492912292, + "covertype_test_accuracy": 0.7255555391311646, + "covertype_test_precision": 0.7158524990081787, + "covertype_test_recall": 0.7255555391311646, + "covertype_test_f1-score": 0.7126386761665344, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7255555391311646 + }, + "20": { + "covertype_test_loss": 0.6203309893608093, + "covertype_test_accuracy": 0.7268750071525574, + "covertype_test_precision": 0.7199177742004395, + "covertype_test_recall": 0.7268750071525574, + "covertype_test_f1-score": 0.7139751315116882, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7268750071525574 + }, + "50": { + "covertype_test_loss": 0.5891163349151611, + "covertype_test_accuracy": 0.7369999885559082, + "covertype_test_precision": 0.7441461086273193, + "covertype_test_recall": 0.7369999885559082, + "covertype_test_f1-score": 0.7209531664848328, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7369999885559082 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6827322483062744, + "std": 0.04751861139652896, + "n": 5, + "ci95": 0.058992690098920206 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7026000022888184, + "std": 0.02074067127441676, + "n": 5, + "ci95": 0.025748816242231763 + }, + "covertype_test_precision": { + "mean": 0.6980490207672119, + "std": 0.014409014469557922, + "n": 5, + "ci95": 0.01788828629987236 + }, + "covertype_test_recall": { + "mean": 0.7026000022888184, + "std": 0.02074067127441676, + "n": 5, + "ci95": 0.025748816242231763 + }, + "covertype_test_f1-score": { + "mean": 0.6878349184989929, + "std": 0.022884345828424513, + "n": 5, + "ci95": 0.028410113046177472 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7026000022888184, + "std": 0.02074067127441676, + "n": 5, + "ci95": 0.025748816242231763 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6658811926841736, + "std": 0.048459044529413825, + "n": 5, + "ci95": 0.06016020486285301 + }, + "covertype_test_accuracy": { + "mean": 0.7106315851211548, + "std": 0.02157380228153159, + "n": 5, + "ci95": 0.026783119178914728 + }, + "covertype_test_precision": { + "mean": 0.7066909074783325, + "std": 0.014047576168010957, + "n": 5, + "ci95": 0.017439573320128226 + }, + "covertype_test_recall": { + "mean": 0.7106315851211548, + "std": 0.02157380228153159, + "n": 5, + "ci95": 0.026783119178914728 + }, + "covertype_test_f1-score": { + "mean": 0.6984511137008667, + "std": 0.022186646587834133, + "n": 5, + "ci95": 0.027543943899546917 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7106315851211548, + "std": 0.02157380228153159, + "n": 5, + "ci95": 0.026783119178914728 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6499346613883972, + "std": 0.041281751409062165, + "n": 5, + "ci95": 0.05124984708188163 + }, + "covertype_test_accuracy": { + "mean": 0.7144444584846497, + "std": 0.02294988223761548, + "n": 5, + "ci95": 0.028491474200554156 + }, + "covertype_test_precision": { + "mean": 0.7115322947502136, + "std": 0.012589152297159305, + "n": 5, + "ci95": 0.015628991215191047 + }, + "covertype_test_recall": { + "mean": 0.7144444584846497, + "std": 0.02294988223761548, + "n": 5, + "ci95": 0.028491474200554156 + }, + "covertype_test_f1-score": { + "mean": 0.70305415391922, + "std": 0.022894163914456544, + "n": 5, + "ci95": 0.028422301855775017 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7144444584846497, + "std": 0.02294988223761548, + "n": 5, + "ci95": 0.028491474200554156 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6349697709083557, + "std": 0.0385662740176368, + "n": 5, + "ci95": 0.04787867710205595 + }, + "covertype_test_accuracy": { + "mean": 0.7143750071525574, + "std": 0.025674491981118736, + "n": 5, + "ci95": 0.03187398167531439 + }, + "covertype_test_precision": { + "mean": 0.7144050240516663, + "std": 0.01328576558182708, + "n": 5, + "ci95": 0.016493812185616095 + }, + "covertype_test_recall": { + "mean": 0.7143750071525574, + "std": 0.025674491981118736, + "n": 5, + "ci95": 0.03187398167531439 + }, + "covertype_test_f1-score": { + "mean": 0.7037626743316651, + "std": 0.025707268557968992, + "n": 5, + "ci95": 0.03191467264636351 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7143750071525574, + "std": 0.025674491981118736, + "n": 5, + "ci95": 0.03187398167531439 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6004674196243286, + "std": 0.045815724537136955, + "n": 5, + "ci95": 0.056878615764311725 + }, + "covertype_test_accuracy": { + "mean": 0.7221999883651733, + "std": 0.026262142489262886, + "n": 5, + "ci95": 0.032603529178799585 + }, + "covertype_test_precision": { + "mean": 0.7298192501068115, + "std": 0.015134223563461087, + "n": 5, + "ci95": 0.018788607964925753 + }, + "covertype_test_recall": { + "mean": 0.7221999883651733, + "std": 0.026262142489262886, + "n": 5, + "ci95": 0.032603529178799585 + }, + "covertype_test_f1-score": { + "mean": 0.711931312084198, + "std": 0.025055018632624368, + "n": 5, + "ci95": 0.031104927231207925 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7221999883651733, + "std": 0.026262142489262886, + "n": 5, + "ci95": 0.032603529178799585 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..445f4f7a3fcd218f1c7e8b20afa91c50900fc65e --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpozu0x14m", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpozu0x14m/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5792197585105896, + "lr": 0.0, + "covertype_val_accuracy": 0.7607607841491699, + "covertype_val_precision": 0.7570382356643677, + "covertype_val_recall": 0.7607607841491699, + "covertype_val_f1-score": 0.7586756348609924, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7607607841491699 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5552642345428467, + "lr": 0.0, + "covertype_test_accuracy": 0.7825000286102295, + "covertype_test_precision": 0.7852249145507812, + "covertype_test_recall": 0.7825000286102295, + "covertype_test_f1-score": 0.7830471992492676, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7825000286102295 + }, + "5": { + "covertype_test_loss": 0.5296130180358887, + "covertype_test_accuracy": 0.7910526394844055, + "covertype_test_precision": 0.7918317317962646, + "covertype_test_recall": 0.7910526394844055, + "covertype_test_f1-score": 0.7909207940101624, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7910526394844055 + }, + "10": { + "covertype_test_loss": 0.5067301392555237, + "covertype_test_accuracy": 0.7983333468437195, + "covertype_test_precision": 0.797033965587616, + "covertype_test_recall": 0.7983333468437195, + "covertype_test_f1-score": 0.7973483800888062, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7983333468437195 + }, + "20": { + "covertype_test_loss": 0.48412567377090454, + "covertype_test_accuracy": 0.8018749952316284, + "covertype_test_precision": 0.8027605414390564, + "covertype_test_recall": 0.8018749952316284, + "covertype_test_f1-score": 0.8018359541893005, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8018749952316284 + }, + "50": { + "covertype_test_loss": 0.46713346242904663, + "covertype_test_accuracy": 0.796999990940094, + "covertype_test_precision": 0.7983036041259766, + "covertype_test_recall": 0.796999990940094, + "covertype_test_f1-score": 0.7973816394805908, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.796999990940094 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5718830823898315, + "lr": 0.0, + "covertype_val_accuracy": 0.7747747898101807, + "covertype_val_precision": 0.7673887014389038, + "covertype_val_recall": 0.7747747898101807, + "covertype_val_f1-score": 0.7695684432983398, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7747747898101807 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5586404204368591, + "lr": 0.0, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7818750739097595, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7802484035491943, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7820000052452087 + }, + "5": { + "covertype_test_loss": 0.5387770533561707, + "covertype_test_accuracy": 0.788947343826294, + "covertype_test_precision": 0.7905274033546448, + "covertype_test_recall": 0.788947343826294, + "covertype_test_f1-score": 0.7879985570907593, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.788947343826294 + }, + "10": { + "covertype_test_loss": 0.5240465402603149, + "covertype_test_accuracy": 0.7922222018241882, + "covertype_test_precision": 0.7935627102851868, + "covertype_test_recall": 0.7922222018241882, + "covertype_test_f1-score": 0.7910901308059692, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7922222018241882 + }, + "20": { + "covertype_test_loss": 0.495330274105072, + "covertype_test_accuracy": 0.7956249713897705, + "covertype_test_precision": 0.7971102595329285, + "covertype_test_recall": 0.7956249713897705, + "covertype_test_f1-score": 0.794924259185791, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7956249713897705 + }, + "50": { + "covertype_test_loss": 0.4613071084022522, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7947636246681213, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7893783450126648, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7910000085830688 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6202389597892761, + "lr": 0.0, + "covertype_val_accuracy": 0.7437437176704407, + "covertype_val_precision": 0.7456916570663452, + "covertype_val_recall": 0.7437437176704407, + "covertype_val_f1-score": 0.7410740256309509, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7437437176704407 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5477549433708191, + "lr": 0.0, + "covertype_test_accuracy": 0.7680000066757202, + "covertype_test_precision": 0.7757120132446289, + "covertype_test_recall": 0.7680000066757202, + "covertype_test_f1-score": 0.767695426940918, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7680000066757202 + }, + "5": { + "covertype_test_loss": 0.527096152305603, + "covertype_test_accuracy": 0.7752631306648254, + "covertype_test_precision": 0.7845234870910645, + "covertype_test_recall": 0.7752631306648254, + "covertype_test_f1-score": 0.7750712037086487, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7752631306648254 + }, + "10": { + "covertype_test_loss": 0.5166739225387573, + "covertype_test_accuracy": 0.7766666412353516, + "covertype_test_precision": 0.786267876625061, + "covertype_test_recall": 0.7766666412353516, + "covertype_test_f1-score": 0.7764787673950195, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7766666412353516 + }, + "20": { + "covertype_test_loss": 0.4958416223526001, + "covertype_test_accuracy": 0.78125, + "covertype_test_precision": 0.7904387712478638, + "covertype_test_recall": 0.78125, + "covertype_test_f1-score": 0.7813603281974792, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.78125 + }, + "50": { + "covertype_test_loss": 0.4822733700275421, + "covertype_test_accuracy": 0.7739999890327454, + "covertype_test_precision": 0.7846053242683411, + "covertype_test_recall": 0.7739999890327454, + "covertype_test_f1-score": 0.7745038866996765, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7739999890327454 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.59115070104599, + "lr": 0.0, + "covertype_val_accuracy": 0.7857857942581177, + "covertype_val_precision": 0.7769193053245544, + "covertype_val_recall": 0.7857857942581177, + "covertype_val_f1-score": 0.7787953615188599, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7857857942581177 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5566145777702332, + "lr": 0.0, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.783923864364624, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7839879989624023, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7860000133514404 + }, + "5": { + "covertype_test_loss": 0.537476658821106, + "covertype_test_accuracy": 0.7921052575111389, + "covertype_test_precision": 0.7903104424476624, + "covertype_test_recall": 0.7921052575111389, + "covertype_test_f1-score": 0.7903814315795898, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7921052575111389 + }, + "10": { + "covertype_test_loss": 0.5271028876304626, + "covertype_test_accuracy": 0.7961111068725586, + "covertype_test_precision": 0.7941827774047852, + "covertype_test_recall": 0.7961111068725586, + "covertype_test_f1-score": 0.7942838668823242, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7961111068725586 + }, + "20": { + "covertype_test_loss": 0.5032244920730591, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7988784909248352, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.7989354729652405, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.800000011920929 + }, + "50": { + "covertype_test_loss": 0.4679604768753052, + "covertype_test_accuracy": 0.8019999861717224, + "covertype_test_precision": 0.803065836429596, + "covertype_test_recall": 0.8019999861717224, + "covertype_test_f1-score": 0.8012464642524719, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8019999861717224 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5885249376296997, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7807807922363281, + "covertype_val_precision": 0.7733355760574341, + "covertype_val_recall": 0.7807807922363281, + "covertype_val_f1-score": 0.774996817111969, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7807807922363281 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5950036644935608, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7787278890609741, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7765994668006897, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7799999713897705 + }, + "5": { + "covertype_test_loss": 0.5811984539031982, + "covertype_test_accuracy": 0.785263180732727, + "covertype_test_precision": 0.7816088795661926, + "covertype_test_recall": 0.785263180732727, + "covertype_test_f1-score": 0.7823633551597595, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.785263180732727 + }, + "10": { + "covertype_test_loss": 0.5573456883430481, + "covertype_test_accuracy": 0.7905555367469788, + "covertype_test_precision": 0.7864008545875549, + "covertype_test_recall": 0.7905555367469788, + "covertype_test_f1-score": 0.7876428365707397, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7905555367469788 + }, + "20": { + "covertype_test_loss": 0.5327932238578796, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7931073904037476, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7928128242492676, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7950000166893005 + }, + "50": { + "covertype_test_loss": 0.5163235664367676, + "covertype_test_accuracy": 0.7879999876022339, + "covertype_test_precision": 0.7908734679222107, + "covertype_test_recall": 0.7879999876022339, + "covertype_test_f1-score": 0.7852078676223755, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7879999876022339 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5626555681228638, + "std": 0.018545044784801956, + "n": 5, + "ci95": 0.023023022931607216 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7797000050544739, + "std": 0.0068883992915111224, + "n": 5, + "ci95": 0.00855170622076344 + }, + "covertype_test_precision": { + "mean": 0.7810927510261536, + "std": 0.0038809444215171926, + "n": 5, + "ci95": 0.004818056437701809 + }, + "covertype_test_recall": { + "mean": 0.7797000050544739, + "std": 0.0068883992915111224, + "n": 5, + "ci95": 0.00855170622076344 + }, + "covertype_test_f1-score": { + "mean": 0.7783156991004944, + "std": 0.006596079515849418, + "n": 5, + "ci95": 0.008188801467686913 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7797000050544739, + "std": 0.0068883992915111224, + "n": 5, + "ci95": 0.00855170622076344 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5428322672843933, + "std": 0.022019681213657768, + "n": 5, + "ci95": 0.027336662241128 + }, + "covertype_test_accuracy": { + "mean": 0.7865263104438782, + "std": 0.006817778652237932, + "n": 5, + "ci95": 0.008464033172987148 + }, + "covertype_test_precision": { + "mean": 0.7877603888511657, + "std": 0.004445603881131689, + "n": 5, + "ci95": 0.005519061360478128 + }, + "covertype_test_recall": { + "mean": 0.7865263104438782, + "std": 0.006817778652237932, + "n": 5, + "ci95": 0.008464033172987148 + }, + "covertype_test_f1-score": { + "mean": 0.785347068309784, + "std": 0.006669661946709912, + "n": 5, + "ci95": 0.00828015147588171 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7865263104438782, + "std": 0.006817778652237932, + "n": 5, + "ci95": 0.008464033172987148 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5263798356056213, + "std": 0.019007672281657863, + "n": 5, + "ci95": 0.02359735874974632 + }, + "covertype_test_accuracy": { + "mean": 0.7907777667045593, + "std": 0.008467451646798073, + "n": 5, + "ci95": 0.010512044360026016 + }, + "covertype_test_precision": { + "mean": 0.7914896368980407, + "std": 0.004884995021174279, + "n": 5, + "ci95": 0.006064550056274428 + }, + "covertype_test_recall": { + "mean": 0.7907777667045593, + "std": 0.008467451646798073, + "n": 5, + "ci95": 0.010512044360026016 + }, + "covertype_test_f1-score": { + "mean": 0.7893687963485718, + "std": 0.008061117337433863, + "n": 5, + "ci95": 0.010007594560581066 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7907777667045593, + "std": 0.008467451646798073, + "n": 5, + "ci95": 0.010512044360026016 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5022630572319031, + "std": 0.018379869543659628, + "n": 5, + "ci95": 0.022817963660589975 + }, + "covertype_test_accuracy": { + "mean": 0.7947499990463257, + "std": 0.0080840315668988, + "n": 5, + "ci95": 0.010036041773114287 + }, + "covertype_test_precision": { + "mean": 0.7964590907096862, + "std": 0.004833837525593228, + "n": 5, + "ci95": 0.006001039819035672 + }, + "covertype_test_recall": { + "mean": 0.7947499990463257, + "std": 0.0080840315668988, + "n": 5, + "ci95": 0.010036041773114287 + }, + "covertype_test_f1-score": { + "mean": 0.7939737677574158, + "std": 0.007870555497799466, + "n": 5, + "ci95": 0.00977101871756194 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7947499990463257, + "std": 0.0080840315668988, + "n": 5, + "ci95": 0.010036041773114287 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.47899959683418275, + "std": 0.02224571734018413, + "n": 5, + "ci95": 0.027617278167634304 + }, + "covertype_test_accuracy": { + "mean": 0.7903999924659729, + "std": 0.010644247144918823, + "n": 5, + "ci95": 0.013214459654904398 + }, + "covertype_test_precision": { + "mean": 0.7943223714828491, + "std": 0.0070499829671207374, + "n": 5, + "ci95": 0.008752306689088125 + }, + "covertype_test_recall": { + "mean": 0.7903999924659729, + "std": 0.010644247144918823, + "n": 5, + "ci95": 0.013214459654904398 + }, + "covertype_test_f1-score": { + "mean": 0.7895436406135559, + "std": 0.01052866035186797, + "n": 5, + "ci95": 0.013070962703676671 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7903999924659729, + "std": 0.010644247144918823, + "n": 5, + "ci95": 0.013214459654904398 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..6a7c8729f8b13bff05a1aa996521054c76a825cf --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9bd37bc08b7feeaa0b0728724754c9f5db73530051be87d7c96571ebbfa84e61 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..fb50dd3579a3aabcdb4d1a4ea57bc02083bb3488 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f6ce3773d345fd8d05b848b798d6be802c412c5ea45fe229f086cbf0c8e60cd6 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..523a0a6e2f2371290cdfd593e03ae80e012fccb9 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:18856ab90ab598237d67986bff7db48654d40545e06e9540dec6f01cb6904a11 +size 11498832 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..791473a65abb2a4dacc620ae7cf1a19745e6c120 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_193627/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.0005 +sw_s_y_weight: 0.0005 +sw_seed: 0 +sw_z_weight: 0.0005 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.0015 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..deceb5c457da835efd848c1769185ac23e3ae69d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T20:36:54.770543+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.001, + "sw_z_weight": 0.001, + "sw_s_y_weight": 0.001, + "lambda_joint": 0.0015, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..755efccd2148207b00572280f134a40ac5ab7a9c --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.001, + "sw_z_weight": 0.001, + "sw_s_y_weight": 0.001, + "lambda_joint": 0.0015, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.0015", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.001", + "--sw-z-end-weight", + "0.001", + "--sw-s-y-end-weight", + "0.001", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..f1865a31a2017daeb6b339fad55328a5b2949965 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.0015, + "s_x": 0.001, + "z": 0.001, + "s_y": 0.001 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.0015", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.001", + "--sw_z_weight", + "0.001", + "--sw_s_y_weight", + "0.001", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..2333200391c22895ff449bbd7af83d35b34cc828 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp0kywfde2", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp0kywfde2/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6541203856468201, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7297297120094299, + "covertype_val_precision": 0.7227558493614197, + "covertype_val_recall": 0.7297297120094299, + "covertype_val_f1-score": 0.7208829522132874, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7297297120094299 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.639933705329895, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.715499997138977, + "covertype_test_precision": 0.7025959491729736, + "covertype_test_recall": 0.715499997138977, + "covertype_test_f1-score": 0.7055472135543823, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.715499997138977 + }, + "5": { + "covertype_test_loss": 0.6228870153427124, + "covertype_test_accuracy": 0.7242105007171631, + "covertype_test_precision": 0.7120469808578491, + "covertype_test_recall": 0.7242105007171631, + "covertype_test_f1-score": 0.7166208028793335, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7242105007171631 + }, + "10": { + "covertype_test_loss": 0.6080282926559448, + "covertype_test_accuracy": 0.7322221994400024, + "covertype_test_precision": 0.7185038328170776, + "covertype_test_recall": 0.7322221994400024, + "covertype_test_f1-score": 0.7249788641929626, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7322221994400024 + }, + "20": { + "covertype_test_loss": 0.5959706902503967, + "covertype_test_accuracy": 0.7337499856948853, + "covertype_test_precision": 0.7201870679855347, + "covertype_test_recall": 0.7337499856948853, + "covertype_test_f1-score": 0.7264963388442993, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7337499856948853 + }, + "50": { + "covertype_test_loss": 0.5478277802467346, + "covertype_test_accuracy": 0.7480000257492065, + "covertype_test_precision": 0.7375907301902771, + "covertype_test_recall": 0.7480000257492065, + "covertype_test_f1-score": 0.7397136092185974, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7480000257492065 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.7023322582244873, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7047047019004822, + "covertype_val_precision": 0.7225580811500549, + "covertype_val_recall": 0.7047047019004822, + "covertype_val_f1-score": 0.6914413571357727, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7047047019004822 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6832906603813171, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7095000147819519, + "covertype_test_precision": 0.7165327072143555, + "covertype_test_recall": 0.7095000147819519, + "covertype_test_f1-score": 0.6939496994018555, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7095000147819519 + }, + "5": { + "covertype_test_loss": 0.6671696901321411, + "covertype_test_accuracy": 0.7178947329521179, + "covertype_test_precision": 0.729822039604187, + "covertype_test_recall": 0.7178947329521179, + "covertype_test_f1-score": 0.705901563167572, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7178947329521179 + }, + "10": { + "covertype_test_loss": 0.6555204391479492, + "covertype_test_accuracy": 0.7238888740539551, + "covertype_test_precision": 0.7397313714027405, + "covertype_test_recall": 0.7238888740539551, + "covertype_test_f1-score": 0.7149291038513184, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7238888740539551 + }, + "20": { + "covertype_test_loss": 0.6350463032722473, + "covertype_test_accuracy": 0.7243750095367432, + "covertype_test_precision": 0.7442166805267334, + "covertype_test_recall": 0.7243750095367432, + "covertype_test_f1-score": 0.7178935408592224, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7243750095367432 + }, + "50": { + "covertype_test_loss": 0.592189371585846, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7396917939186096, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7343633770942688, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7400000095367432 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.7807310223579407, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.673673689365387, + "covertype_val_precision": 0.684188187122345, + "covertype_val_recall": 0.673673689365387, + "covertype_val_f1-score": 0.6636378765106201, + "covertype_val_support": 999.0, + "covertype_val_score": 0.673673689365387 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7719901204109192, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6700000166893005, + "covertype_test_precision": 0.679929792881012, + "covertype_test_recall": 0.6700000166893005, + "covertype_test_f1-score": 0.6574685573577881, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6700000166893005 + }, + "5": { + "covertype_test_loss": 0.7566436529159546, + "covertype_test_accuracy": 0.678947389125824, + "covertype_test_precision": 0.696498453617096, + "covertype_test_recall": 0.678947389125824, + "covertype_test_f1-score": 0.6680409908294678, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.678947389125824 + }, + "10": { + "covertype_test_loss": 0.7439115643501282, + "covertype_test_accuracy": 0.6844444274902344, + "covertype_test_precision": 0.6994311213493347, + "covertype_test_recall": 0.6844444274902344, + "covertype_test_f1-score": 0.6720588207244873, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6844444274902344 + }, + "20": { + "covertype_test_loss": 0.7243573665618896, + "covertype_test_accuracy": 0.6850000023841858, + "covertype_test_precision": 0.7057415843009949, + "covertype_test_recall": 0.6850000023841858, + "covertype_test_f1-score": 0.6743430495262146, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6850000023841858 + }, + "50": { + "covertype_test_loss": 0.6694126725196838, + "covertype_test_accuracy": 0.7070000171661377, + "covertype_test_precision": 0.7290474772453308, + "covertype_test_recall": 0.7070000171661377, + "covertype_test_f1-score": 0.6988498568534851, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7070000171661377 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.7140870094299316, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7327327132225037, + "covertype_val_precision": 0.7263278961181641, + "covertype_val_recall": 0.7327327132225037, + "covertype_val_f1-score": 0.7239634394645691, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7327327132225037 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6389729976654053, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.734000027179718, + "covertype_test_precision": 0.7363162040710449, + "covertype_test_recall": 0.734000027179718, + "covertype_test_f1-score": 0.7263752818107605, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.734000027179718 + }, + "5": { + "covertype_test_loss": 0.6256686449050903, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7421033382415771, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7333595752716064, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7400000095367432 + }, + "10": { + "covertype_test_loss": 0.6144264936447144, + "covertype_test_accuracy": 0.7450000047683716, + "covertype_test_precision": 0.7468206882476807, + "covertype_test_recall": 0.7450000047683716, + "covertype_test_f1-score": 0.7380333542823792, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7450000047683716 + }, + "20": { + "covertype_test_loss": 0.6052408814430237, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.7518011927604675, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.7433034777641296, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.75 + }, + "50": { + "covertype_test_loss": 0.5927644371986389, + "covertype_test_accuracy": 0.7570000290870667, + "covertype_test_precision": 0.7680935859680176, + "covertype_test_recall": 0.7570000290870667, + "covertype_test_f1-score": 0.7499066591262817, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7570000290870667 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6331130862236023, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7187187075614929, + "covertype_val_precision": 0.7241889238357544, + "covertype_val_recall": 0.7187187075614929, + "covertype_val_f1-score": 0.6992437839508057, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7187187075614929 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6389718055725098, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7174999713897705, + "covertype_test_precision": 0.7192545533180237, + "covertype_test_recall": 0.7174999713897705, + "covertype_test_f1-score": 0.6996237635612488, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7174999713897705 + }, + "5": { + "covertype_test_loss": 0.6173593401908875, + "covertype_test_accuracy": 0.725789487361908, + "covertype_test_precision": 0.7235673069953918, + "covertype_test_recall": 0.725789487361908, + "covertype_test_f1-score": 0.7109203338623047, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.725789487361908 + }, + "10": { + "covertype_test_loss": 0.6022515892982483, + "covertype_test_accuracy": 0.7333333492279053, + "covertype_test_precision": 0.7272416353225708, + "covertype_test_recall": 0.7333333492279053, + "covertype_test_f1-score": 0.7200573682785034, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7333333492279053 + }, + "20": { + "covertype_test_loss": 0.5895700454711914, + "covertype_test_accuracy": 0.734375, + "covertype_test_precision": 0.7270500659942627, + "covertype_test_recall": 0.734375, + "covertype_test_f1-score": 0.7206925749778748, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.734375 + }, + "50": { + "covertype_test_loss": 0.5572399497032166, + "covertype_test_accuracy": 0.7369999885559082, + "covertype_test_precision": 0.7399935722351074, + "covertype_test_recall": 0.7369999885559082, + "covertype_test_f1-score": 0.7216020822525024, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7369999885559082 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6746318578720093, + "std": 0.05766446387629799, + "n": 5, + "ci95": 0.07158841025020593 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7093000054359436, + "std": 0.023771303772244463, + "n": 5, + "ci95": 0.02951124023766707 + }, + "covertype_test_precision": { + "mean": 0.710925841331482, + "std": 0.021069035522219233, + "n": 5, + "ci95": 0.026156468943791797 + }, + "covertype_test_recall": { + "mean": 0.7093000054359436, + "std": 0.023771303772244463, + "n": 5, + "ci95": 0.02951124023766707 + }, + "covertype_test_f1-score": { + "mean": 0.696592903137207, + "std": 0.02507018561990618, + "n": 5, + "ci95": 0.031123756514180527 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7093000054359436, + "std": 0.023771303772244463, + "n": 5, + "ci95": 0.02951124023766707 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6579456686973572, + "std": 0.05861855542788188, + "n": 5, + "ci95": 0.07277288146210456 + }, + "covertype_test_accuracy": { + "mean": 0.7173684239387512, + "std": 0.02294760285831325, + "n": 5, + "ci95": 0.02848864443106295 + }, + "covertype_test_precision": { + "mean": 0.7208076238632202, + "std": 0.017393013086783954, + "n": 5, + "ci95": 0.02159281596747288 + }, + "covertype_test_recall": { + "mean": 0.7173684239387512, + "std": 0.02294760285831325, + "n": 5, + "ci95": 0.02848864443106295 + }, + "covertype_test_f1-score": { + "mean": 0.7069686532020569, + "std": 0.02409233342813722, + "n": 5, + "ci95": 0.029909787300513857 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7173684239387512, + "std": 0.02294760285831325, + "n": 5, + "ci95": 0.02848864443106295 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6448276758193969, + "std": 0.0592095891225736, + "n": 5, + "ci95": 0.07350662907307778 + }, + "covertype_test_accuracy": { + "mean": 0.7237777709960938, + "std": 0.02323857196889027, + "n": 5, + "ci95": 0.02884987238078966 + }, + "covertype_test_precision": { + "mean": 0.7263457298278808, + "std": 0.018608421934704925, + "n": 5, + "ci95": 0.02310170344127909 + }, + "covertype_test_recall": { + "mean": 0.7237777709960938, + "std": 0.02323857196889027, + "n": 5, + "ci95": 0.02884987238078966 + }, + "covertype_test_f1-score": { + "mean": 0.7140115022659301, + "std": 0.02497375812211646, + "n": 5, + "ci95": 0.03100404515631583 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7237777709960938, + "std": 0.02323857196889027, + "n": 5, + "ci95": 0.02884987238078966 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6300370573997498, + "std": 0.055530082009462016, + "n": 5, + "ci95": 0.06893864999159269 + }, + "covertype_test_accuracy": { + "mean": 0.7254999995231628, + "std": 0.02443661852317739, + "n": 5, + "ci95": 0.030337205175752224 + }, + "covertype_test_precision": { + "mean": 0.7297993183135987, + "std": 0.018511287927008485, + "n": 5, + "ci95": 0.022981114976134656 + }, + "covertype_test_recall": { + "mean": 0.7254999995231628, + "std": 0.02443661852317739, + "n": 5, + "ci95": 0.030337205175752224 + }, + "covertype_test_f1-score": { + "mean": 0.7165457963943481, + "std": 0.02556888166460445, + "n": 5, + "ci95": 0.031742870169942594 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7254999995231628, + "std": 0.02443661852317739, + "n": 5, + "ci95": 0.030337205175752224 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.591886842250824, + "std": 0.047834935360186, + "n": 5, + "ci95": 0.05938539520983271 + }, + "covertype_test_accuracy": { + "mean": 0.7378000140190124, + "std": 0.018886507386665953, + "n": 5, + "ci95": 0.023446936780520847 + }, + "covertype_test_precision": { + "mean": 0.7428834319114686, + "std": 0.014777821580110984, + "n": 5, + "ci95": 0.018346147397655287 + }, + "covertype_test_recall": { + "mean": 0.7378000140190124, + "std": 0.018886507386665953, + "n": 5, + "ci95": 0.023446936780520847 + }, + "covertype_test_f1-score": { + "mean": 0.7288871169090271, + "std": 0.019648996399050656, + "n": 5, + "ci95": 0.02439354015737643 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7378000140190124, + "std": 0.018886507386665953, + "n": 5, + "ci95": 0.023446936780520847 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..6def92263c33c0a9acb7c12c682eb4d6bd6a8fe8 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpydj44t5u", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpydj44t5u/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5767927169799805, + "lr": 0.0, + "covertype_val_accuracy": 0.7567567825317383, + "covertype_val_precision": 0.7508631944656372, + "covertype_val_recall": 0.7567567825317383, + "covertype_val_f1-score": 0.7532961368560791, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7567567825317383 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5557965636253357, + "lr": 0.0, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7818408012390137, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7814792990684509, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7820000052452087 + }, + "5": { + "covertype_test_loss": 0.5266880989074707, + "covertype_test_accuracy": 0.7905263304710388, + "covertype_test_precision": 0.789486289024353, + "covertype_test_recall": 0.7905263304710388, + "covertype_test_f1-score": 0.7896575331687927, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7905263304710388 + }, + "10": { + "covertype_test_loss": 0.5060102939605713, + "covertype_test_accuracy": 0.79666668176651, + "covertype_test_precision": 0.7939943075180054, + "covertype_test_recall": 0.79666668176651, + "covertype_test_f1-score": 0.7950328588485718, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.79666668176651 + }, + "20": { + "covertype_test_loss": 0.49500739574432373, + "covertype_test_accuracy": 0.7987499833106995, + "covertype_test_precision": 0.798122763633728, + "covertype_test_recall": 0.7987499833106995, + "covertype_test_f1-score": 0.7981624603271484, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7987499833106995 + }, + "50": { + "covertype_test_loss": 0.4494991600513458, + "covertype_test_accuracy": 0.796999990940094, + "covertype_test_precision": 0.7966591715812683, + "covertype_test_recall": 0.796999990940094, + "covertype_test_f1-score": 0.7962120175361633, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.796999990940094 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6162010431289673, + "lr": 0.0, + "covertype_val_accuracy": 0.7557557821273804, + "covertype_val_precision": 0.7455214262008667, + "covertype_val_recall": 0.7557557821273804, + "covertype_val_f1-score": 0.7483715415000916, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7557557821273804 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5721174478530884, + "lr": 0.0, + "covertype_test_accuracy": 0.7689999938011169, + "covertype_test_precision": 0.7676668167114258, + "covertype_test_recall": 0.7689999938011169, + "covertype_test_f1-score": 0.7663472294807434, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7689999938011169 + }, + "5": { + "covertype_test_loss": 0.550014078617096, + "covertype_test_accuracy": 0.7747368216514587, + "covertype_test_precision": 0.7748507261276245, + "covertype_test_recall": 0.7747368216514587, + "covertype_test_f1-score": 0.7731038331985474, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7747368216514587 + }, + "10": { + "covertype_test_loss": 0.5363587737083435, + "covertype_test_accuracy": 0.7811111211776733, + "covertype_test_precision": 0.7825974225997925, + "covertype_test_recall": 0.7811111211776733, + "covertype_test_f1-score": 0.7801786065101624, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7811111211776733 + }, + "20": { + "covertype_test_loss": 0.5234675407409668, + "covertype_test_accuracy": 0.7825000286102295, + "covertype_test_precision": 0.7846702337265015, + "covertype_test_recall": 0.7825000286102295, + "covertype_test_f1-score": 0.7823840975761414, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7825000286102295 + }, + "50": { + "covertype_test_loss": 0.47526422142982483, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7829955220222473, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.7806988954544067, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.781000018119812 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5965976715087891, + "lr": 0.0, + "covertype_val_accuracy": 0.7587587833404541, + "covertype_val_precision": 0.7538811564445496, + "covertype_val_recall": 0.7587587833404541, + "covertype_val_f1-score": 0.7516722679138184, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7587587833404541 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.562021017074585, + "lr": 0.0, + "covertype_test_accuracy": 0.7714999914169312, + "covertype_test_precision": 0.7736361026763916, + "covertype_test_recall": 0.7714999914169312, + "covertype_test_f1-score": 0.7680655121803284, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7714999914169312 + }, + "5": { + "covertype_test_loss": 0.5374325513839722, + "covertype_test_accuracy": 0.7757894992828369, + "covertype_test_precision": 0.7789319753646851, + "covertype_test_recall": 0.7757894992828369, + "covertype_test_f1-score": 0.7726754546165466, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7757894992828369 + }, + "10": { + "covertype_test_loss": 0.5227164030075073, + "covertype_test_accuracy": 0.7816666960716248, + "covertype_test_precision": 0.7834495306015015, + "covertype_test_recall": 0.7816666960716248, + "covertype_test_f1-score": 0.7776445746421814, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7816666960716248 + }, + "20": { + "covertype_test_loss": 0.5075333118438721, + "covertype_test_accuracy": 0.78125, + "covertype_test_precision": 0.7873973846435547, + "covertype_test_recall": 0.78125, + "covertype_test_f1-score": 0.7788705825805664, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.78125 + }, + "50": { + "covertype_test_loss": 0.4847131371498108, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7853400111198425, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.7793241143226624, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.781000018119812 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5825843811035156, + "lr": 0.0, + "covertype_val_accuracy": 0.7727727890014648, + "covertype_val_precision": 0.762782633304596, + "covertype_val_recall": 0.7727727890014648, + "covertype_val_f1-score": 0.7667083144187927, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7727727890014648 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5684735178947449, + "lr": 0.0, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7757236957550049, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7745173573493958, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7749999761581421 + }, + "5": { + "covertype_test_loss": 0.5449195504188538, + "covertype_test_accuracy": 0.7789473533630371, + "covertype_test_precision": 0.7790544629096985, + "covertype_test_recall": 0.7789473533630371, + "covertype_test_f1-score": 0.7780816555023193, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7789473533630371 + }, + "10": { + "covertype_test_loss": 0.5329819321632385, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7834939360618591, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.78341144323349, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7850000262260437 + }, + "20": { + "covertype_test_loss": 0.5268633365631104, + "covertype_test_accuracy": 0.784375011920929, + "covertype_test_precision": 0.7850282788276672, + "covertype_test_recall": 0.784375011920929, + "covertype_test_f1-score": 0.7836419939994812, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.784375011920929 + }, + "50": { + "covertype_test_loss": 0.4688999652862549, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7915186285972595, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7889004349708557, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7900000214576721 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5988655686378479, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7717717885971069, + "covertype_val_precision": 0.763957679271698, + "covertype_val_recall": 0.7717717885971069, + "covertype_val_f1-score": 0.7666909694671631, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7717717885971069 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.598943829536438, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7710000276565552, + "covertype_test_precision": 0.7674224376678467, + "covertype_test_recall": 0.7710000276565552, + "covertype_test_f1-score": 0.7673422694206238, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7710000276565552 + }, + "5": { + "covertype_test_loss": 0.5714820027351379, + "covertype_test_accuracy": 0.7784210443496704, + "covertype_test_precision": 0.773956835269928, + "covertype_test_recall": 0.7784210443496704, + "covertype_test_f1-score": 0.7751958966255188, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7784210443496704 + }, + "10": { + "covertype_test_loss": 0.5591921806335449, + "covertype_test_accuracy": 0.7833333611488342, + "covertype_test_precision": 0.7792249321937561, + "covertype_test_recall": 0.7833333611488342, + "covertype_test_f1-score": 0.7806870341300964, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7833333611488342 + }, + "20": { + "covertype_test_loss": 0.5476477146148682, + "covertype_test_accuracy": 0.7893750071525574, + "covertype_test_precision": 0.7865703105926514, + "covertype_test_recall": 0.7893750071525574, + "covertype_test_f1-score": 0.7868062853813171, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7893750071525574 + }, + "50": { + "covertype_test_loss": 0.5095229148864746, + "covertype_test_accuracy": 0.7940000295639038, + "covertype_test_precision": 0.7945003509521484, + "covertype_test_recall": 0.7940000295639038, + "covertype_test_f1-score": 0.7906733155250549, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7940000295639038 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5714704751968384, + "std": 0.016576710229364047, + "n": 5, + "ci95": 0.02057940458865988 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7736999988555908, + "std": 0.005118592867495583, + "n": 5, + "ci95": 0.006354553592800635 + }, + "covertype_test_precision": { + "mean": 0.7732579708099365, + "std": 0.006024994037199876, + "n": 5, + "ci95": 0.0074798188675676905 + }, + "covertype_test_recall": { + "mean": 0.7736999988555908, + "std": 0.005118592867495583, + "n": 5, + "ci95": 0.006354553592800635 + }, + "covertype_test_f1-score": { + "mean": 0.7715503334999084, + "std": 0.00640920553079213, + "n": 5, + "ci95": 0.007956803966833171 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7736999988555908, + "std": 0.005118592867495583, + "n": 5, + "ci95": 0.006354553592800635 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5461072564125061, + "std": 0.016680121715240845, + "n": 5, + "ci95": 0.020707786322883795 + }, + "covertype_test_accuracy": { + "mean": 0.7796842098236084, + "std": 0.0063114092030582694, + "n": 5, + "ci95": 0.007835393254582487 + }, + "covertype_test_precision": { + "mean": 0.7792560577392578, + "std": 0.006170332393705798, + "n": 5, + "ci95": 0.007660251341768032 + }, + "covertype_test_recall": { + "mean": 0.7796842098236084, + "std": 0.0063114092030582694, + "n": 5, + "ci95": 0.007835393254582487 + }, + "covertype_test_f1-score": { + "mean": 0.7777428746223449, + "std": 0.006995720272535716, + "n": 5, + "ci95": 0.008684941456150777 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7796842098236084, + "std": 0.0063114092030582694, + "n": 5, + "ci95": 0.007835393254582487 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5314519166946411, + "std": 0.019490547729655746, + "n": 5, + "ci95": 0.024196831689357455 + }, + "covertype_test_accuracy": { + "mean": 0.7855555772781372, + "std": 0.00639492203853321, + "n": 5, + "ci95": 0.007939071511957135 + }, + "covertype_test_precision": { + "mean": 0.784552025794983, + "std": 0.005560803304352616, + "n": 5, + "ci95": 0.006903542346750642 + }, + "covertype_test_recall": { + "mean": 0.7855555772781372, + "std": 0.00639492203853321, + "n": 5, + "ci95": 0.007939071511957135 + }, + "covertype_test_f1-score": { + "mean": 0.7833909034729004, + "std": 0.006822492269717357, + "n": 5, + "ci95": 0.008469884963833647 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7855555772781372, + "std": 0.00639492203853321, + "n": 5, + "ci95": 0.007939071511957135 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5201038599014283, + "std": 0.020021987898691224, + "n": 5, + "ci95": 0.024856596027511446 + }, + "covertype_test_accuracy": { + "mean": 0.7872500061988831, + "std": 0.007134301931566834, + "n": 5, + "ci95": 0.008856985727318476 + }, + "covertype_test_precision": { + "mean": 0.7883577942848206, + "std": 0.0055712630314993005, + "n": 5, + "ci95": 0.006916527731296806 + }, + "covertype_test_recall": { + "mean": 0.7872500061988831, + "std": 0.007134301931566834, + "n": 5, + "ci95": 0.008856985727318476 + }, + "covertype_test_f1-score": { + "mean": 0.7859730839729309, + "std": 0.0073830117557283515, + "n": 5, + "ci95": 0.009165750254524107 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7872500061988831, + "std": 0.007134301931566834, + "n": 5, + "ci95": 0.008856985727318476 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4775798797607422, + "std": 0.022025387977344008, + "n": 5, + "ci95": 0.027343746988171654 + }, + "covertype_test_accuracy": { + "mean": 0.7886000156402588, + "std": 0.00736884788016056, + "n": 5, + "ci95": 0.00914816629957648 + }, + "covertype_test_precision": { + "mean": 0.7902027368545532, + "std": 0.0058625219530661936, + "n": 5, + "ci95": 0.0072781154712069935 + }, + "covertype_test_recall": { + "mean": 0.7886000156402588, + "std": 0.00736884788016056, + "n": 5, + "ci95": 0.00914816629957648 + }, + "covertype_test_f1-score": { + "mean": 0.7871617555618287, + "std": 0.0070791680695683175, + "n": 5, + "ci95": 0.008788538970579438 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7886000156402588, + "std": 0.00736884788016056, + "n": 5, + "ci95": 0.00914816629957648 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..3da3b564baef1ec80460e923279bdb56861892b8 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:121f4472b88bdd994433d33fe384377614ec38863be167584ede5c4bae5b7f2d +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..c9da23764a5ae4ccfc673c5f62aef753d6d41f89 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1635d6b2b653cd51d23fd82121983e36ddbe023eb0d79f6ab19cc56ed6b25363 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..7f771adf4bdfdbd6cbeff685aedb81b9e5466d79 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f09d0e6f8918a879d3291ed69b31388ea2d47031ed207f529f4c18ac4dff2c9c +size 11494544 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..27919251306281ca3ae7a46ba1a1625bb685c62a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_201548/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.001 +sw_s_y_weight: 0.001 +sw_seed: 0 +sw_z_weight: 0.001 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.0015 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..8feb7fac3d8b03fbbe172a25a8af674d892e0062 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T20:15:28.183446+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.002, + "sw_z_weight": 0.002, + "sw_s_y_weight": 0.002, + "lambda_joint": 0.0015, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..0cb9cb9e4c906265535148401068be94918680f9 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.002, + "sw_z_weight": 0.002, + "sw_s_y_weight": 0.002, + "lambda_joint": 0.0015, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.0015", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.002", + "--sw-z-end-weight", + "0.002", + "--sw-s-y-end-weight", + "0.002", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..33943734501b9a9c3fc6b274f7619d28c8cf35c9 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.0015, + "s_x": 0.002, + "z": 0.002, + "s_y": 0.002 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.0015", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.002", + "--sw_z_weight", + "0.002", + "--sw_s_y_weight", + "0.002", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..73e215b4a9efc9ee208450aed2fb52def8261402 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpyj74_dsq", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpyj74_dsq/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6953648924827576, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6976976990699768, + "covertype_val_precision": 0.7042601704597473, + "covertype_val_recall": 0.6976976990699768, + "covertype_val_f1-score": 0.687782883644104, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6976976990699768 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6919044852256775, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6894999742507935, + "covertype_test_precision": 0.7010079622268677, + "covertype_test_recall": 0.6894999742507935, + "covertype_test_f1-score": 0.6794609427452087, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6894999742507935 + }, + "5": { + "covertype_test_loss": 0.6786902546882629, + "covertype_test_accuracy": 0.6936842203140259, + "covertype_test_precision": 0.7080087661743164, + "covertype_test_recall": 0.6936842203140259, + "covertype_test_f1-score": 0.6847582459449768, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6936842203140259 + }, + "10": { + "covertype_test_loss": 0.6681456565856934, + "covertype_test_accuracy": 0.695555567741394, + "covertype_test_precision": 0.7079436182975769, + "covertype_test_recall": 0.695555567741394, + "covertype_test_f1-score": 0.6843987703323364, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.695555567741394 + }, + "20": { + "covertype_test_loss": 0.647869884967804, + "covertype_test_accuracy": 0.7018749713897705, + "covertype_test_precision": 0.7218480110168457, + "covertype_test_recall": 0.7018749713897705, + "covertype_test_f1-score": 0.692305862903595, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7018749713897705 + }, + "50": { + "covertype_test_loss": 0.6019699573516846, + "covertype_test_accuracy": 0.7170000076293945, + "covertype_test_precision": 0.7348860502243042, + "covertype_test_recall": 0.7170000076293945, + "covertype_test_f1-score": 0.7092226147651672, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7170000076293945 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.7610933780670166, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6686686873435974, + "covertype_val_precision": 0.7099387645721436, + "covertype_val_recall": 0.6686686873435974, + "covertype_val_f1-score": 0.6679391264915466, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6686686873435974 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7540030479431152, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6779999732971191, + "covertype_test_precision": 0.708821713924408, + "covertype_test_recall": 0.6779999732971191, + "covertype_test_f1-score": 0.6720811724662781, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6779999732971191 + }, + "5": { + "covertype_test_loss": 0.7301346063613892, + "covertype_test_accuracy": 0.6826315522193909, + "covertype_test_precision": 0.7170231342315674, + "covertype_test_recall": 0.6826315522193909, + "covertype_test_f1-score": 0.6762007474899292, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6826315522193909 + }, + "10": { + "covertype_test_loss": 0.7212971448898315, + "covertype_test_accuracy": 0.6883333325386047, + "covertype_test_precision": 0.7164492011070251, + "covertype_test_recall": 0.6883333325386047, + "covertype_test_f1-score": 0.6804630160331726, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6883333325386047 + }, + "20": { + "covertype_test_loss": 0.7065733075141907, + "covertype_test_accuracy": 0.6924999952316284, + "covertype_test_precision": 0.7179175019264221, + "covertype_test_recall": 0.6924999952316284, + "covertype_test_f1-score": 0.683212161064148, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6924999952316284 + }, + "50": { + "covertype_test_loss": 0.6378412246704102, + "covertype_test_accuracy": 0.7080000042915344, + "covertype_test_precision": 0.7283235192298889, + "covertype_test_recall": 0.7080000042915344, + "covertype_test_f1-score": 0.6998913288116455, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7080000042915344 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6599622368812561, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.717717707157135, + "covertype_val_precision": 0.7102736234664917, + "covertype_val_recall": 0.717717707157135, + "covertype_val_f1-score": 0.709835410118103, + "covertype_val_support": 999.0, + "covertype_val_score": 0.717717707157135 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6529474258422852, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7080000042915344, + "covertype_test_precision": 0.695376992225647, + "covertype_test_recall": 0.7080000042915344, + "covertype_test_f1-score": 0.6986815333366394, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7080000042915344 + }, + "5": { + "covertype_test_loss": 0.6362698078155518, + "covertype_test_accuracy": 0.7157894968986511, + "covertype_test_precision": 0.703986406326294, + "covertype_test_recall": 0.7157894968986511, + "covertype_test_f1-score": 0.7084835767745972, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7157894968986511 + }, + "10": { + "covertype_test_loss": 0.625133752822876, + "covertype_test_accuracy": 0.7205555438995361, + "covertype_test_precision": 0.7065157890319824, + "covertype_test_recall": 0.7205555438995361, + "covertype_test_f1-score": 0.7121778130531311, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7205555438995361 + }, + "20": { + "covertype_test_loss": 0.6112297773361206, + "covertype_test_accuracy": 0.7231249809265137, + "covertype_test_precision": 0.7092078924179077, + "covertype_test_recall": 0.7231249809265137, + "covertype_test_f1-score": 0.7151272892951965, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7231249809265137 + }, + "50": { + "covertype_test_loss": 0.5664606094360352, + "covertype_test_accuracy": 0.7419999837875366, + "covertype_test_precision": 0.7304971218109131, + "covertype_test_recall": 0.7419999837875366, + "covertype_test_f1-score": 0.7359777688980103, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7419999837875366 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.645316481590271, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7327327132225037, + "covertype_val_precision": 0.7242123484611511, + "covertype_val_recall": 0.7327327132225037, + "covertype_val_f1-score": 0.7205318212509155, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7327327132225037 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6406632661819458, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7170000076293945, + "covertype_test_precision": 0.7102442979812622, + "covertype_test_recall": 0.7170000076293945, + "covertype_test_f1-score": 0.7043700218200684, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7170000076293945 + }, + "5": { + "covertype_test_loss": 0.6224862337112427, + "covertype_test_accuracy": 0.725789487361908, + "covertype_test_precision": 0.7183716297149658, + "covertype_test_recall": 0.725789487361908, + "covertype_test_f1-score": 0.7157756090164185, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.725789487361908 + }, + "10": { + "covertype_test_loss": 0.6100349426269531, + "covertype_test_accuracy": 0.730555534362793, + "covertype_test_precision": 0.7224574685096741, + "covertype_test_recall": 0.730555534362793, + "covertype_test_f1-score": 0.7220622897148132, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.730555534362793 + }, + "20": { + "covertype_test_loss": 0.5942332148551941, + "covertype_test_accuracy": 0.734375, + "covertype_test_precision": 0.7295328974723816, + "covertype_test_recall": 0.734375, + "covertype_test_f1-score": 0.7257769107818604, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.734375 + }, + "50": { + "covertype_test_loss": 0.5531960725784302, + "covertype_test_accuracy": 0.746999979019165, + "covertype_test_precision": 0.7401006817817688, + "covertype_test_recall": 0.746999979019165, + "covertype_test_f1-score": 0.7374458909034729, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.746999979019165 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6598520278930664, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7277277112007141, + "covertype_val_precision": 0.7089137434959412, + "covertype_val_recall": 0.7277277112007141, + "covertype_val_f1-score": 0.7095174193382263, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7277277112007141 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6574654579162598, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.718999981880188, + "covertype_test_precision": 0.7082624435424805, + "covertype_test_recall": 0.718999981880188, + "covertype_test_f1-score": 0.7025195956230164, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.718999981880188 + }, + "5": { + "covertype_test_loss": 0.640652060508728, + "covertype_test_accuracy": 0.7242105007171631, + "covertype_test_precision": 0.7133057713508606, + "covertype_test_recall": 0.7242105007171631, + "covertype_test_f1-score": 0.7110559940338135, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7242105007171631 + }, + "10": { + "covertype_test_loss": 0.630375862121582, + "covertype_test_accuracy": 0.7294444441795349, + "covertype_test_precision": 0.716614305973053, + "covertype_test_recall": 0.7294444441795349, + "covertype_test_f1-score": 0.7190230488777161, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7294444441795349 + }, + "20": { + "covertype_test_loss": 0.6127512454986572, + "covertype_test_accuracy": 0.731249988079071, + "covertype_test_precision": 0.7200797200202942, + "covertype_test_recall": 0.731249988079071, + "covertype_test_f1-score": 0.7223937511444092, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.731249988079071 + }, + "50": { + "covertype_test_loss": 0.5744026303291321, + "covertype_test_accuracy": 0.746999979019165, + "covertype_test_precision": 0.7365738153457642, + "covertype_test_recall": 0.746999979019165, + "covertype_test_f1-score": 0.7392844557762146, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.746999979019165 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6793967366218567, + "std": 0.045834959972703454, + "n": 5, + "ci95": 0.05690249588319447 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7022999882698059, + "std": 0.01790112863038781, + "n": 5, + "ci95": 0.022223623600889045 + }, + "covertype_test_precision": { + "mean": 0.704742681980133, + "std": 0.006343486381612045, + "n": 5, + "ci95": 0.007875215947166656 + }, + "covertype_test_recall": { + "mean": 0.7022999882698059, + "std": 0.01790112863038781, + "n": 5, + "ci95": 0.022223623600889045 + }, + "covertype_test_f1-score": { + "mean": 0.6914226531982421, + "std": 0.014668360679869513, + "n": 5, + "ci95": 0.018210255527583395 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7022999882698059, + "std": 0.01790112863038781, + "n": 5, + "ci95": 0.022223623600889045 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.661646592617035, + "std": 0.04358721067693782, + "n": 5, + "ci95": 0.0541119939361015 + }, + "covertype_test_accuracy": { + "mean": 0.7084210515022278, + "std": 0.019284292345144036, + "n": 5, + "ci95": 0.023940772860571443 + }, + "covertype_test_precision": { + "mean": 0.7121391415596008, + "std": 0.006074236797825089, + "n": 5, + "ci95": 0.00754095202848726 + }, + "covertype_test_recall": { + "mean": 0.7084210515022278, + "std": 0.019284292345144036, + "n": 5, + "ci95": 0.023940772860571443 + }, + "covertype_test_f1-score": { + "mean": 0.699254834651947, + "std": 0.017599822787015072, + "n": 5, + "ci95": 0.021849562959790843 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7084210515022278, + "std": 0.019284292345144036, + "n": 5, + "ci95": 0.023940772860571443 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6509974718093872, + "std": 0.04474431757019782, + "n": 5, + "ci95": 0.055548501577198046 + }, + "covertype_test_accuracy": { + "mean": 0.7128888845443726, + "std": 0.019674817292726084, + "n": 5, + "ci95": 0.024425595891622548 + }, + "covertype_test_precision": { + "mean": 0.7139960765838623, + "std": 0.006653101749349532, + "n": 5, + "ci95": 0.00825959257144097 + }, + "covertype_test_recall": { + "mean": 0.7128888845443726, + "std": 0.019674817292726084, + "n": 5, + "ci95": 0.024425595891622548 + }, + "covertype_test_f1-score": { + "mean": 0.7036249876022339, + "std": 0.019725044872590584, + "n": 5, + "ci95": 0.02448795167110102 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7128888845443726, + "std": 0.019674817292726084, + "n": 5, + "ci95": 0.024425595891622548 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6345314860343934, + "std": 0.04474716777160249, + "n": 5, + "ci95": 0.055552040002317046 + }, + "covertype_test_accuracy": { + "mean": 0.7166249871253967, + "std": 0.018512034784389068, + "n": 5, + "ci95": 0.022982042173388655 + }, + "covertype_test_precision": { + "mean": 0.7197172045707703, + "std": 0.007326393250346676, + "n": 5, + "ci95": 0.009095460365074828 + }, + "covertype_test_recall": { + "mean": 0.7166249871253967, + "std": 0.018512034784389068, + "n": 5, + "ci95": 0.022982042173388655 + }, + "covertype_test_f1-score": { + "mean": 0.7077631950378418, + "std": 0.01893712885452024, + "n": 5, + "ci95": 0.023509781558129363 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7166249871253967, + "std": 0.018512034784389068, + "n": 5, + "ci95": 0.022982042173388655 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5867740988731385, + "std": 0.03365984398726895, + "n": 5, + "ci95": 0.04178751623335538 + }, + "covertype_test_accuracy": { + "mean": 0.7321999907493592, + "std": 0.018376601974570955, + "n": 5, + "ci95": 0.02281390708812374 + }, + "covertype_test_precision": { + "mean": 0.7340762376785278, + "std": 0.004719413556242225, + "n": 5, + "ci95": 0.005858986472663999 + }, + "covertype_test_recall": { + "mean": 0.7321999907493592, + "std": 0.018376601974570955, + "n": 5, + "ci95": 0.02281390708812374 + }, + "covertype_test_f1-score": { + "mean": 0.724364411830902, + "std": 0.018417441999851913, + "n": 5, + "ci95": 0.02286460854770401 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7321999907493592, + "std": 0.018376601974570955, + "n": 5, + "ci95": 0.02281390708812374 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..96893e5e0abe6226e6473482eb06f64cc888d17e --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp5j6p9kw9", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp5j6p9kw9/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5849745273590088, + "lr": 0.0, + "covertype_val_accuracy": 0.7727727890014648, + "covertype_val_precision": 0.767144501209259, + "covertype_val_recall": 0.7727727890014648, + "covertype_val_f1-score": 0.769141674041748, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7727727890014648 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5529440641403198, + "lr": 0.0, + "covertype_test_accuracy": 0.7739999890327454, + "covertype_test_precision": 0.7754790186882019, + "covertype_test_recall": 0.7739999890327454, + "covertype_test_f1-score": 0.7737811803817749, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7739999890327454 + }, + "5": { + "covertype_test_loss": 0.5260586738586426, + "covertype_test_accuracy": 0.780526340007782, + "covertype_test_precision": 0.7814797163009644, + "covertype_test_recall": 0.780526340007782, + "covertype_test_f1-score": 0.7800989151000977, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.780526340007782 + }, + "10": { + "covertype_test_loss": 0.5070512294769287, + "covertype_test_accuracy": 0.7861111164093018, + "covertype_test_precision": 0.7849903702735901, + "covertype_test_recall": 0.7861111164093018, + "covertype_test_f1-score": 0.7848918437957764, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7861111164093018 + }, + "20": { + "covertype_test_loss": 0.4959701895713806, + "covertype_test_accuracy": 0.7893750071525574, + "covertype_test_precision": 0.7895107865333557, + "covertype_test_recall": 0.7893750071525574, + "covertype_test_f1-score": 0.788933515548706, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7893750071525574 + }, + "50": { + "covertype_test_loss": 0.4539567828178406, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7825508713722229, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7816370129585266, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5507171750068665, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7877877950668335, + "covertype_val_precision": 0.7854781150817871, + "covertype_val_recall": 0.7877877950668335, + "covertype_val_f1-score": 0.7858386039733887, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7877877950668335 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5392322540283203, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7889999747276306, + "covertype_test_precision": 0.7899050116539001, + "covertype_test_recall": 0.7889999747276306, + "covertype_test_f1-score": 0.788560152053833, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7889999747276306 + }, + "5": { + "covertype_test_loss": 0.5157433152198792, + "covertype_test_accuracy": 0.7957894802093506, + "covertype_test_precision": 0.7955572605133057, + "covertype_test_recall": 0.7957894802093506, + "covertype_test_f1-score": 0.7946746945381165, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7957894802093506 + }, + "10": { + "covertype_test_loss": 0.5000666975975037, + "covertype_test_accuracy": 0.8016666769981384, + "covertype_test_precision": 0.7995213866233826, + "covertype_test_recall": 0.8016666769981384, + "covertype_test_f1-score": 0.7998817563056946, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.8016666769981384 + }, + "20": { + "covertype_test_loss": 0.48130062222480774, + "covertype_test_accuracy": 0.8062499761581421, + "covertype_test_precision": 0.8059827089309692, + "covertype_test_recall": 0.8062499761581421, + "covertype_test_f1-score": 0.8053235411643982, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8062499761581421 + }, + "50": { + "covertype_test_loss": 0.4327092170715332, + "covertype_test_accuracy": 0.8100000023841858, + "covertype_test_precision": 0.8133752942085266, + "covertype_test_recall": 0.8100000023841858, + "covertype_test_f1-score": 0.8092212080955505, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8100000023841858 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.60148686170578, + "lr": 0.0, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.7495976686477661, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7433393597602844, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5651111602783203, + "lr": 0.0, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7591352462768555, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7512903213500977, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7519999742507935 + }, + "5": { + "covertype_test_loss": 0.5454442501068115, + "covertype_test_accuracy": 0.75789475440979, + "covertype_test_precision": 0.7673329710960388, + "covertype_test_recall": 0.75789475440979, + "covertype_test_f1-score": 0.7578628063201904, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.75789475440979 + }, + "10": { + "covertype_test_loss": 0.5323455333709717, + "covertype_test_accuracy": 0.7627778053283691, + "covertype_test_precision": 0.7708871364593506, + "covertype_test_recall": 0.7627778053283691, + "covertype_test_f1-score": 0.7619959115982056, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7627778053283691 + }, + "20": { + "covertype_test_loss": 0.5195837616920471, + "covertype_test_accuracy": 0.7637500166893005, + "covertype_test_precision": 0.7746322154998779, + "covertype_test_recall": 0.7637500166893005, + "covertype_test_f1-score": 0.7636660933494568, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7637500166893005 + }, + "50": { + "covertype_test_loss": 0.48717987537384033, + "covertype_test_accuracy": 0.7559999823570251, + "covertype_test_precision": 0.7669531106948853, + "covertype_test_recall": 0.7559999823570251, + "covertype_test_f1-score": 0.7560712099075317, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7559999823570251 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5997602939605713, + "lr": 0.0, + "covertype_val_accuracy": 0.7647647857666016, + "covertype_val_precision": 0.757667601108551, + "covertype_val_recall": 0.7647647857666016, + "covertype_val_f1-score": 0.7601050734519958, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7647647857666016 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5689555406570435, + "lr": 0.0, + "covertype_test_accuracy": 0.7770000100135803, + "covertype_test_precision": 0.7757155299186707, + "covertype_test_recall": 0.7770000100135803, + "covertype_test_f1-score": 0.7759455442428589, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7770000100135803 + }, + "5": { + "covertype_test_loss": 0.5453867316246033, + "covertype_test_accuracy": 0.7810526490211487, + "covertype_test_precision": 0.7792138457298279, + "covertype_test_recall": 0.7810526490211487, + "covertype_test_f1-score": 0.7796981334686279, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7810526490211487 + }, + "10": { + "covertype_test_loss": 0.5321016907691956, + "covertype_test_accuracy": 0.7855555415153503, + "covertype_test_precision": 0.7816575169563293, + "covertype_test_recall": 0.7855555415153503, + "covertype_test_f1-score": 0.7831846475601196, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7855555415153503 + }, + "20": { + "covertype_test_loss": 0.518532931804657, + "covertype_test_accuracy": 0.7881249785423279, + "covertype_test_precision": 0.7863124012947083, + "covertype_test_recall": 0.7881249785423279, + "covertype_test_f1-score": 0.7868308424949646, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7881249785423279 + }, + "50": { + "covertype_test_loss": 0.4612187147140503, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7950732111930847, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7930893898010254, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7950000166893005 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5918852686882019, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7616483569145203, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7644298076629639, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5781888365745544, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.7697534561157227, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7683331370353699, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7730000019073486 + }, + "5": { + "covertype_test_loss": 0.555586576461792, + "covertype_test_accuracy": 0.777368426322937, + "covertype_test_precision": 0.7730376124382019, + "covertype_test_recall": 0.777368426322937, + "covertype_test_f1-score": 0.7732051014900208, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.777368426322937 + }, + "10": { + "covertype_test_loss": 0.5470268130302429, + "covertype_test_accuracy": 0.7805555462837219, + "covertype_test_precision": 0.7759997844696045, + "covertype_test_recall": 0.7805555462837219, + "covertype_test_f1-score": 0.7762802839279175, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7805555462837219 + }, + "20": { + "covertype_test_loss": 0.5353328585624695, + "covertype_test_accuracy": 0.7856249809265137, + "covertype_test_precision": 0.7831997275352478, + "covertype_test_recall": 0.7856249809265137, + "covertype_test_f1-score": 0.7821221351623535, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7856249809265137 + }, + "50": { + "covertype_test_loss": 0.487815797328949, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7917883992195129, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7818548679351807, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5608863711357117, + "std": 0.015118834928951302, + "n": 5, + "ci95": 0.018769503514690335 + }, + "lr": { + "mean": 0.00020000003278255462, + "std": 0.0002738613236419447, + "n": 5, + "ci95": 0.0003399892320268738 + }, + "covertype_test_accuracy": { + "mean": 0.7729999899864197, + "std": 0.013360392312035717, + "n": 5, + "ci95": 0.016586458654839636 + }, + "covertype_test_precision": { + "mean": 0.7739976525306702, + "std": 0.011147801863488327, + "n": 5, + "ci95": 0.013839605183937885 + }, + "covertype_test_recall": { + "mean": 0.7729999899864197, + "std": 0.013360392312035717, + "n": 5, + "ci95": 0.016586458654839636 + }, + "covertype_test_f1-score": { + "mean": 0.7715820670127869, + "std": 0.013550294211247212, + "n": 5, + "ci95": 0.01682221520496051 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7729999899864197, + "std": 0.013360392312035717, + "n": 5, + "ci95": 0.016586458654839636 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5376439094543457, + "std": 0.016252612254846456, + "n": 5, + "ci95": 0.020177048315812213 + }, + "covertype_test_accuracy": { + "mean": 0.7785263299942017, + "std": 0.013559142074983491, + "n": 5, + "ci95": 0.0168331995175928 + }, + "covertype_test_precision": { + "mean": 0.7793242812156678, + "std": 0.01062404626288497, + "n": 5, + "ci95": 0.013189380968079915 + }, + "covertype_test_recall": { + "mean": 0.7785263299942017, + "std": 0.013559142074983491, + "n": 5, + "ci95": 0.0168331995175928 + }, + "covertype_test_f1-score": { + "mean": 0.7771079301834106, + "std": 0.013321535366137399, + "n": 5, + "ci95": 0.016538219118788347 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7785263299942017, + "std": 0.013559142074983491, + "n": 5, + "ci95": 0.0168331995175928 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5237183928489685, + "std": 0.019526819454860938, + "n": 5, + "ci95": 0.024241861764553202 + }, + "covertype_test_accuracy": { + "mean": 0.7833333373069763, + "std": 0.01395538973308329, + "n": 5, + "ci95": 0.017325127093119803 + }, + "covertype_test_precision": { + "mean": 0.7826112389564515, + "std": 0.010882197105700878, + "n": 5, + "ci95": 0.013509866188953317 + }, + "covertype_test_recall": { + "mean": 0.7833333373069763, + "std": 0.01395538973308329, + "n": 5, + "ci95": 0.017325127093119803 + }, + "covertype_test_f1-score": { + "mean": 0.7812468886375428, + "std": 0.013780114114801898, + "n": 5, + "ci95": 0.017107528557992448 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7833333373069763, + "std": 0.01395538973308329, + "n": 5, + "ci95": 0.017325127093119803 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5101440727710724, + "std": 0.02137053588956261, + "n": 5, + "ci95": 0.02653077107957975 + }, + "covertype_test_accuracy": { + "mean": 0.7866249918937683, + "std": 0.01515929635393735, + "n": 5, + "ci95": 0.01881973495527778 + }, + "covertype_test_precision": { + "mean": 0.7879275679588318, + "std": 0.011513278551416786, + "n": 5, + "ci95": 0.014293331678793294 + }, + "covertype_test_recall": { + "mean": 0.7866249918937683, + "std": 0.01515929635393735, + "n": 5, + "ci95": 0.01881973495527778 + }, + "covertype_test_f1-score": { + "mean": 0.7853752255439759, + "std": 0.014954803260389808, + "n": 5, + "ci95": 0.01856586394893981 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7866249918937683, + "std": 0.01515929635393735, + "n": 5, + "ci95": 0.01881973495527778 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4645760774612427, + "std": 0.023401679181417064, + "n": 5, + "ci95": 0.02905236426678351 + }, + "covertype_test_accuracy": { + "mean": 0.7856000065803528, + "std": 0.019831801515089134, + "n": 5, + "ci95": 0.02462048629999336 + }, + "covertype_test_precision": { + "mean": 0.7899481773376464, + "std": 0.017043880272159903, + "n": 5, + "ci95": 0.021159379818326805 + }, + "covertype_test_recall": { + "mean": 0.7856000065803528, + "std": 0.019831801515089134, + "n": 5, + "ci95": 0.02462048629999336 + }, + "covertype_test_f1-score": { + "mean": 0.784374737739563, + "std": 0.019417948000816313, + "n": 5, + "ci95": 0.024106701671269357 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7856000065803528, + "std": 0.019831801515089134, + "n": 5, + "ci95": 0.02462048629999336 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..c95b49d4eb0862ae04c1567d6f82c090bd5f2d44 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:0016d194651d9123e30790acdc82ef6bf509e487b0d3711282d3996be793e156 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..740bb9fa14c976af1027f595dcb1c1bd774a9a93 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9b8cd06f28521cd1c6ab69f725013a3cd1104c12ce75b8daff0d29f03e248262 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..52d540a9e42a65671b0480fd1cb43e47a5db492e --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e7fb06745b98bd8631ae101a0ed44c882eb9042ec433b0221c11ace2815e297e +size 11494928 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..289adecebe778cebb4b1411d4b78fd0a1586466a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_195411/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.002 +sw_s_y_weight: 0.002 +sw_seed: 0 +sw_z_weight: 0.002 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.0015 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..6f9430dc122e2f925543397db81b12613d63df74 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T20:15:28.686720+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0, + "sw_z_weight": 0.0, + "sw_s_y_weight": 0.0, + "lambda_joint": 0.0015, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..f635dfbefbcb0b3f2f60cc069cfe766142da7331 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0, + "sw_z_weight": 0.0, + "sw_s_y_weight": 0.0, + "lambda_joint": 0.0015, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.0015", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.0", + "--sw-z-end-weight", + "0.0", + "--sw-s-y-end-weight", + "0.0", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..97650c5a9305426883cf91588f925d7382129350 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.0015, + "s_x": 0.0, + "z": 0.0, + "s_y": 0.0 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.0015", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.0", + "--sw_z_weight", + "0.0", + "--sw_s_y_weight", + "0.0", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..19a207aaab8731a587dd90092a46f7cbb9da9076 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpsuaof7vg", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpsuaof7vg/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6284058690071106, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7347347140312195, + "covertype_val_precision": 0.720085620880127, + "covertype_val_recall": 0.7347347140312195, + "covertype_val_f1-score": 0.7227555513381958, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7347347140312195 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6201291680335999, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7315000295639038, + "covertype_test_precision": 0.7195994257926941, + "covertype_test_recall": 0.7315000295639038, + "covertype_test_f1-score": 0.7206968069076538, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7315000295639038 + }, + "5": { + "covertype_test_loss": 0.6024829149246216, + "covertype_test_accuracy": 0.7405263185501099, + "covertype_test_precision": 0.7280980348587036, + "covertype_test_recall": 0.7405263185501099, + "covertype_test_f1-score": 0.7310985922813416, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7405263185501099 + }, + "10": { + "covertype_test_loss": 0.5908928513526917, + "covertype_test_accuracy": 0.7450000047683716, + "covertype_test_precision": 0.7292938232421875, + "covertype_test_recall": 0.7450000047683716, + "covertype_test_f1-score": 0.7352737784385681, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7450000047683716 + }, + "20": { + "covertype_test_loss": 0.5825099945068359, + "covertype_test_accuracy": 0.746874988079071, + "covertype_test_precision": 0.7299555540084839, + "covertype_test_recall": 0.746874988079071, + "covertype_test_f1-score": 0.7376413345336914, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.746874988079071 + }, + "50": { + "covertype_test_loss": 0.5469233989715576, + "covertype_test_accuracy": 0.7649999856948853, + "covertype_test_precision": 0.752117931842804, + "covertype_test_recall": 0.7649999856948853, + "covertype_test_f1-score": 0.7555543780326843, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7649999856948853 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6420063376426697, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7237237095832825, + "covertype_val_precision": 0.7142226099967957, + "covertype_val_recall": 0.7237237095832825, + "covertype_val_f1-score": 0.7172093987464905, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7237237095832825 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6384261250495911, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7149999737739563, + "covertype_test_precision": 0.7058398723602295, + "covertype_test_recall": 0.7149999737739563, + "covertype_test_f1-score": 0.7079878449440002, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7149999737739563 + }, + "5": { + "covertype_test_loss": 0.6184863448143005, + "covertype_test_accuracy": 0.7231578826904297, + "covertype_test_precision": 0.7138674259185791, + "covertype_test_recall": 0.7231578826904297, + "covertype_test_f1-score": 0.7146801948547363, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7231578826904297 + }, + "10": { + "covertype_test_loss": 0.6050509810447693, + "covertype_test_accuracy": 0.7294444441795349, + "covertype_test_precision": 0.7167633175849915, + "covertype_test_recall": 0.7294444441795349, + "covertype_test_f1-score": 0.7198389172554016, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7294444441795349 + }, + "20": { + "covertype_test_loss": 0.5972154140472412, + "covertype_test_accuracy": 0.731249988079071, + "covertype_test_precision": 0.7183444499969482, + "covertype_test_recall": 0.731249988079071, + "covertype_test_f1-score": 0.7213541269302368, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.731249988079071 + }, + "50": { + "covertype_test_loss": 0.5715771913528442, + "covertype_test_accuracy": 0.7409999966621399, + "covertype_test_precision": 0.7320126891136169, + "covertype_test_recall": 0.7409999966621399, + "covertype_test_f1-score": 0.7293420433998108, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7409999966621399 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.8875036239624023, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.5825825929641724, + "covertype_val_precision": 0.595694363117218, + "covertype_val_recall": 0.5825825929641724, + "covertype_val_f1-score": 0.5384087562561035, + "covertype_val_support": 999.0, + "covertype_val_score": 0.5825825929641724 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.8755939602851868, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.578000009059906, + "covertype_test_precision": 0.6223648190498352, + "covertype_test_recall": 0.578000009059906, + "covertype_test_f1-score": 0.5340797901153564, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.578000009059906 + }, + "5": { + "covertype_test_loss": 0.8417532444000244, + "covertype_test_accuracy": 0.5905263423919678, + "covertype_test_precision": 0.6396203637123108, + "covertype_test_recall": 0.5905263423919678, + "covertype_test_f1-score": 0.5509297847747803, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.5905263423919678 + }, + "10": { + "covertype_test_loss": 0.8201541900634766, + "covertype_test_accuracy": 0.5988888740539551, + "covertype_test_precision": 0.6643722057342529, + "covertype_test_recall": 0.5988888740539551, + "covertype_test_f1-score": 0.5614978671073914, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.5988888740539551 + }, + "20": { + "covertype_test_loss": 0.8021862506866455, + "covertype_test_accuracy": 0.596875011920929, + "covertype_test_precision": 0.6728394031524658, + "covertype_test_recall": 0.596875011920929, + "covertype_test_f1-score": 0.5577629804611206, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.596875011920929 + }, + "50": { + "covertype_test_loss": 0.7232181429862976, + "covertype_test_accuracy": 0.6150000095367432, + "covertype_test_precision": 0.7181168794631958, + "covertype_test_recall": 0.6150000095367432, + "covertype_test_f1-score": 0.5770203471183777, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6150000095367432 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6567752957344055, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7327327132225037, + "covertype_val_precision": 0.7228524684906006, + "covertype_val_recall": 0.7327327132225037, + "covertype_val_f1-score": 0.717134416103363, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7327327132225037 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6531520485877991, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.722000002861023, + "covertype_test_precision": 0.7168706059455872, + "covertype_test_recall": 0.722000002861023, + "covertype_test_f1-score": 0.7077265977859497, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.722000002861023 + }, + "5": { + "covertype_test_loss": 0.6286516189575195, + "covertype_test_accuracy": 0.7331578731536865, + "covertype_test_precision": 0.7249277234077454, + "covertype_test_recall": 0.7331578731536865, + "covertype_test_f1-score": 0.7218562364578247, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7331578731536865 + }, + "10": { + "covertype_test_loss": 0.6149698495864868, + "covertype_test_accuracy": 0.7394444346427917, + "covertype_test_precision": 0.7286972999572754, + "covertype_test_recall": 0.7394444346427917, + "covertype_test_f1-score": 0.7293962836265564, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7394444346427917 + }, + "20": { + "covertype_test_loss": 0.6043528318405151, + "covertype_test_accuracy": 0.7425000071525574, + "covertype_test_precision": 0.7316212058067322, + "covertype_test_recall": 0.7425000071525574, + "covertype_test_f1-score": 0.7325189113616943, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7425000071525574 + }, + "50": { + "covertype_test_loss": 0.5781808495521545, + "covertype_test_accuracy": 0.7419999837875366, + "covertype_test_precision": 0.7364247441291809, + "covertype_test_recall": 0.7419999837875366, + "covertype_test_f1-score": 0.7284938097000122, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7419999837875366 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6633074879646301, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7267267107963562, + "covertype_val_precision": 0.7057793140411377, + "covertype_val_recall": 0.7267267107963562, + "covertype_val_f1-score": 0.7047871947288513, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7267267107963562 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.657957911491394, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7145000100135803, + "covertype_test_precision": 0.7382168173789978, + "covertype_test_recall": 0.7145000100135803, + "covertype_test_f1-score": 0.6939192414283752, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7145000100135803 + }, + "5": { + "covertype_test_loss": 0.6304495930671692, + "covertype_test_accuracy": 0.7247368693351746, + "covertype_test_precision": 0.7410683035850525, + "covertype_test_recall": 0.7247368693351746, + "covertype_test_f1-score": 0.7071861624717712, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7247368693351746 + }, + "10": { + "covertype_test_loss": 0.616013765335083, + "covertype_test_accuracy": 0.7300000190734863, + "covertype_test_precision": 0.7293773293495178, + "covertype_test_recall": 0.7300000190734863, + "covertype_test_f1-score": 0.7138257026672363, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7300000190734863 + }, + "20": { + "covertype_test_loss": 0.607699453830719, + "covertype_test_accuracy": 0.7306249737739563, + "covertype_test_precision": 0.7344380021095276, + "covertype_test_recall": 0.7306249737739563, + "covertype_test_f1-score": 0.71486496925354, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7306249737739563 + }, + "50": { + "covertype_test_loss": 0.5901123285293579, + "covertype_test_accuracy": 0.7269999980926514, + "covertype_test_precision": 0.7522281408309937, + "covertype_test_recall": 0.7269999980926514, + "covertype_test_f1-score": 0.7088517546653748, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7269999980926514 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6890518426895141, + "std": 0.10531724428988225, + "n": 5, + "ci95": 0.1307476664799832 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.6922000050544739, + "std": 0.06420922767729142, + "n": 5, + "ci95": 0.07971350505697125 + }, + "covertype_test_precision": { + "mean": 0.7005783081054687, + "std": 0.045246362273608856, + "n": 5, + "ci95": 0.05617177247535177 + }, + "covertype_test_recall": { + "mean": 0.6922000050544739, + "std": 0.06420922767729142, + "n": 5, + "ci95": 0.07971350505697125 + }, + "covertype_test_f1-score": { + "mean": 0.6728820562362671, + "std": 0.07816879348479416, + "n": 5, + "ci95": 0.09704381660007426 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6922000050544739, + "std": 0.06420922767729142, + "n": 5, + "ci95": 0.07971350505697125 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6643647432327271, + "std": 0.09978293080334774, + "n": 5, + "ci95": 0.12387701031335008 + }, + "covertype_test_accuracy": { + "mean": 0.7024210572242737, + "std": 0.06293886200547079, + "n": 5, + "ci95": 0.07813639061301897 + }, + "covertype_test_precision": { + "mean": 0.7095163702964783, + "std": 0.04025759548926904, + "n": 5, + "ci95": 0.049978393413230376 + }, + "covertype_test_recall": { + "mean": 0.7024210572242737, + "std": 0.06293886200547079, + "n": 5, + "ci95": 0.07813639061301897 + }, + "covertype_test_f1-score": { + "mean": 0.6851501941680909, + "std": 0.07555016870777241, + "n": 5, + "ci95": 0.0937928857454853 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7024210572242737, + "std": 0.06293886200547079, + "n": 5, + "ci95": 0.07813639061301897 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6494163274765015, + "std": 0.09597784892753787, + "n": 5, + "ci95": 0.11915313456648711 + }, + "covertype_test_accuracy": { + "mean": 0.7085555553436279, + "std": 0.0616549114928847, + "n": 5, + "ci95": 0.07654241106552584 + }, + "covertype_test_precision": { + "mean": 0.713700795173645, + "std": 0.028091280601991137, + "n": 5, + "ci95": 0.03487434001819594 + }, + "covertype_test_recall": { + "mean": 0.7085555553436279, + "std": 0.0616549114928847, + "n": 5, + "ci95": 0.07654241106552584 + }, + "covertype_test_f1-score": { + "mean": 0.6919665098190307, + "std": 0.07340515925644944, + "n": 5, + "ci95": 0.09112993171332279 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7085555553436279, + "std": 0.0616549114928847, + "n": 5, + "ci95": 0.07654241106552584 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6387927889823913, + "std": 0.09185145688415035, + "n": 5, + "ci95": 0.11403036351135497 + }, + "covertype_test_accuracy": { + "mean": 0.709624993801117, + "std": 0.06342224871235827, + "n": 5, + "ci95": 0.07873649826261737 + }, + "covertype_test_precision": { + "mean": 0.7174397230148315, + "std": 0.02567444758197013, + "n": 5, + "ci95": 0.03187392655532798 + }, + "covertype_test_recall": { + "mean": 0.709624993801117, + "std": 0.06342224871235827, + "n": 5, + "ci95": 0.07873649826261737 + }, + "covertype_test_f1-score": { + "mean": 0.6928284645080567, + "std": 0.07603540430324367, + "n": 5, + "ci95": 0.09439528872544048 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.709624993801117, + "std": 0.06342224871235827, + "n": 5, + "ci95": 0.07873649826261737 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6020023822784424, + "std": 0.06957277860009066, + "n": 5, + "ci95": 0.08637216548747334 + }, + "covertype_test_accuracy": { + "mean": 0.7179999947547913, + "std": 0.05916923973797212, + "n": 5, + "ci95": 0.07345653672669977 + }, + "covertype_test_precision": { + "mean": 0.7381800770759582, + "std": 0.014450446855098066, + "n": 5, + "ci95": 0.017939723153946915 + }, + "covertype_test_recall": { + "mean": 0.7179999947547913, + "std": 0.05916923973797212, + "n": 5, + "ci95": 0.07345653672669977 + }, + "covertype_test_f1-score": { + "mean": 0.699852466583252, + "std": 0.07064237639988179, + "n": 5, + "ci95": 0.08770003365700015 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7179999947547913, + "std": 0.05916923973797212, + "n": 5, + "ci95": 0.07345653672669977 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..6b48d6b50e42d985acf963644c7f293731b064f5 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpkn4n5yeo", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpkn4n5yeo/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6106976866722107, + "lr": 0.0, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.7557702660560608, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.7570854425430298, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5634638071060181, + "lr": 0.0, + "covertype_test_accuracy": 0.7774999737739563, + "covertype_test_precision": 0.7783873081207275, + "covertype_test_recall": 0.7774999737739563, + "covertype_test_f1-score": 0.7773356437683105, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7774999737739563 + }, + "5": { + "covertype_test_loss": 0.5358794331550598, + "covertype_test_accuracy": 0.7847368717193604, + "covertype_test_precision": 0.7844312191009521, + "covertype_test_recall": 0.7847368717193604, + "covertype_test_f1-score": 0.7839280962944031, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7847368717193604 + }, + "10": { + "covertype_test_loss": 0.5107102990150452, + "covertype_test_accuracy": 0.7933333516120911, + "covertype_test_precision": 0.7917243242263794, + "covertype_test_recall": 0.7933333516120911, + "covertype_test_f1-score": 0.7921014428138733, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7933333516120911 + }, + "20": { + "covertype_test_loss": 0.5132946968078613, + "covertype_test_accuracy": 0.793749988079071, + "covertype_test_precision": 0.7929906845092773, + "covertype_test_recall": 0.793749988079071, + "covertype_test_f1-score": 0.7930403351783752, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.793749988079071 + }, + "50": { + "covertype_test_loss": 0.49503907561302185, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7851846218109131, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7839885950088501, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5956949591636658, + "lr": 0.0, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.7525566816329956, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.7512814402580261, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5777086019515991, + "lr": 0.0, + "covertype_test_accuracy": 0.7714999914169312, + "covertype_test_precision": 0.7730411291122437, + "covertype_test_recall": 0.7714999914169312, + "covertype_test_f1-score": 0.7696335911750793, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7714999914169312 + }, + "5": { + "covertype_test_loss": 0.5544778108596802, + "covertype_test_accuracy": 0.7794736623764038, + "covertype_test_precision": 0.7817102074623108, + "covertype_test_recall": 0.7794736623764038, + "covertype_test_f1-score": 0.7785434126853943, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7794736623764038 + }, + "10": { + "covertype_test_loss": 0.5325211882591248, + "covertype_test_accuracy": 0.7838888764381409, + "covertype_test_precision": 0.7844268083572388, + "covertype_test_recall": 0.7838888764381409, + "covertype_test_f1-score": 0.7825031876564026, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7838888764381409 + }, + "20": { + "covertype_test_loss": 0.5286365747451782, + "covertype_test_accuracy": 0.7825000286102295, + "covertype_test_precision": 0.7832962870597839, + "covertype_test_recall": 0.7825000286102295, + "covertype_test_f1-score": 0.78116375207901, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7825000286102295 + }, + "50": { + "covertype_test_loss": 0.49943414330482483, + "covertype_test_accuracy": 0.7929999828338623, + "covertype_test_precision": 0.7935640811920166, + "covertype_test_recall": 0.7929999828338623, + "covertype_test_f1-score": 0.7914741039276123, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7929999828338623 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5924592614173889, + "lr": 0.0, + "covertype_val_accuracy": 0.7577577829360962, + "covertype_val_precision": 0.7587168216705322, + "covertype_val_recall": 0.7577577829360962, + "covertype_val_f1-score": 0.754393458366394, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7577577829360962 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5431705117225647, + "lr": 0.0, + "covertype_test_accuracy": 0.7710000276565552, + "covertype_test_precision": 0.7756723761558533, + "covertype_test_recall": 0.7710000276565552, + "covertype_test_f1-score": 0.769931972026825, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7710000276565552 + }, + "5": { + "covertype_test_loss": 0.5215219259262085, + "covertype_test_accuracy": 0.7789473533630371, + "covertype_test_precision": 0.7856307625770569, + "covertype_test_recall": 0.7789473533630371, + "covertype_test_f1-score": 0.7781655788421631, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7789473533630371 + }, + "10": { + "covertype_test_loss": 0.5027574300765991, + "covertype_test_accuracy": 0.7833333611488342, + "covertype_test_precision": 0.789986252784729, + "covertype_test_recall": 0.7833333611488342, + "covertype_test_f1-score": 0.7825610041618347, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7833333611488342 + }, + "20": { + "covertype_test_loss": 0.4967891573905945, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7904507517814636, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7839071154594421, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7850000262260437 + }, + "50": { + "covertype_test_loss": 0.49621471762657166, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7830580472946167, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7778549194335938, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5701085329055786, + "lr": 0.0, + "covertype_val_accuracy": 0.7777777910232544, + "covertype_val_precision": 0.7696634531021118, + "covertype_val_recall": 0.7777777910232544, + "covertype_val_f1-score": 0.771006166934967, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7777777910232544 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.561874508857727, + "lr": 0.0, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7827680706977844, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7834302186965942, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7850000262260437 + }, + "5": { + "covertype_test_loss": 0.5370787382125854, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7880143523216248, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7882513999938965, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7900000214576721 + }, + "10": { + "covertype_test_loss": 0.5170698165893555, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7920417189598083, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.792686402797699, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7950000166893005 + }, + "20": { + "covertype_test_loss": 0.5080616474151611, + "covertype_test_accuracy": 0.796875, + "covertype_test_precision": 0.7947710156440735, + "covertype_test_recall": 0.796875, + "covertype_test_f1-score": 0.7949371337890625, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.796875 + }, + "50": { + "covertype_test_loss": 0.4811224341392517, + "covertype_test_accuracy": 0.7979999780654907, + "covertype_test_precision": 0.7968817353248596, + "covertype_test_recall": 0.7979999780654907, + "covertype_test_f1-score": 0.7956792116165161, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7979999780654907 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5741949081420898, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7857857942581177, + "covertype_val_precision": 0.7778778076171875, + "covertype_val_recall": 0.7857857942581177, + "covertype_val_f1-score": 0.780147910118103, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7857857942581177 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5689411759376526, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7835000157356262, + "covertype_test_precision": 0.7822783589363098, + "covertype_test_recall": 0.7835000157356262, + "covertype_test_f1-score": 0.7807514667510986, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7835000157356262 + }, + "5": { + "covertype_test_loss": 0.5435056090354919, + "covertype_test_accuracy": 0.7894737124443054, + "covertype_test_precision": 0.7871565818786621, + "covertype_test_recall": 0.7894737124443054, + "covertype_test_f1-score": 0.7870347499847412, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7894737124443054 + }, + "10": { + "covertype_test_loss": 0.5212274193763733, + "covertype_test_accuracy": 0.7933333516120911, + "covertype_test_precision": 0.7923631072044373, + "covertype_test_recall": 0.7933333516120911, + "covertype_test_f1-score": 0.7914215922355652, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7933333516120911 + }, + "20": { + "covertype_test_loss": 0.5227488875389099, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7950705289840698, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7938616871833801, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7950000166893005 + }, + "50": { + "covertype_test_loss": 0.5146268606185913, + "covertype_test_accuracy": 0.7919999957084656, + "covertype_test_precision": 0.792838454246521, + "covertype_test_recall": 0.7919999957084656, + "covertype_test_f1-score": 0.7893357276916504, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7919999957084656 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5630317211151123, + "std": 0.012711470847573852, + "n": 5, + "ci95": 0.015780845407177845 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7777000069618225, + "std": 0.006524958079527283, + "n": 5, + "ci95": 0.008100506697931746 + }, + "covertype_test_precision": { + "mean": 0.7784294486045837, + "std": 0.004191508191234308, + "n": 5, + "ci95": 0.00520361046978391 + }, + "covertype_test_recall": { + "mean": 0.7777000069618225, + "std": 0.006524958079527283, + "n": 5, + "ci95": 0.008100506697931746 + }, + "covertype_test_f1-score": { + "mean": 0.7762165784835815, + "std": 0.006258716403012506, + "n": 5, + "ci95": 0.007769976990676863 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7777000069618225, + "std": 0.006524958079527283, + "n": 5, + "ci95": 0.008100506697931746 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5384927034378052, + "std": 0.012015496768726718, + "n": 5, + "ci95": 0.014916817988369274 + }, + "covertype_test_accuracy": { + "mean": 0.7845263242721557, + "std": 0.005271068427504909, + "n": 5, + "ci95": 0.006543846654928004 + }, + "covertype_test_precision": { + "mean": 0.7853886246681213, + "std": 0.002476193032442593, + "n": 5, + "ci95": 0.003074106837193094 + }, + "covertype_test_recall": { + "mean": 0.7845263242721557, + "std": 0.005271068427504909, + "n": 5, + "ci95": 0.006543846654928004 + }, + "covertype_test_f1-score": { + "mean": 0.7831846475601196, + "std": 0.004684551656340899, + "n": 5, + "ci95": 0.00581570664615609 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7845263242721557, + "std": 0.005271068427504909, + "n": 5, + "ci95": 0.006543846654928004 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5168572306632996, + "std": 0.011192547241364155, + "n": 5, + "ci95": 0.013895155001847351 + }, + "covertype_test_accuracy": { + "mean": 0.7897777915000915, + "std": 0.005673747758447871, + "n": 5, + "ci95": 0.0070437589268024705 + }, + "covertype_test_precision": { + "mean": 0.7901084423065186, + "std": 0.003306359078043364, + "n": 5, + "ci95": 0.00410472887810462 + }, + "covertype_test_recall": { + "mean": 0.7897777915000915, + "std": 0.005673747758447871, + "n": 5, + "ci95": 0.0070437589268024705 + }, + "covertype_test_f1-score": { + "mean": 0.788254725933075, + "std": 0.0052432025739912345, + "n": 5, + "ci95": 0.0065092521747367295 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7897777915000915, + "std": 0.005673747758447871, + "n": 5, + "ci95": 0.0070437589268024705 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.513906192779541, + "std": 0.012477008273290747, + "n": 5, + "ci95": 0.015489768341203468 + }, + "covertype_test_accuracy": { + "mean": 0.7906250119209289, + "std": 0.006434755464809236, + "n": 5, + "ci95": 0.007988523314163026 + }, + "covertype_test_precision": { + "mean": 0.7913158535957336, + "std": 0.004845168707449843, + "n": 5, + "ci95": 0.006015107084051977 + }, + "covertype_test_recall": { + "mean": 0.7906250119209289, + "std": 0.006434755464809236, + "n": 5, + "ci95": 0.007988523314163026 + }, + "covertype_test_f1-score": { + "mean": 0.789382004737854, + "std": 0.006360512647889426, + "n": 5, + "ci95": 0.007896353459827992 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7906250119209289, + "std": 0.006434755464809236, + "n": 5, + "ci95": 0.007988523314163026 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4972874462604523, + "std": 0.011966381372957859, + "n": 5, + "ci95": 0.014855842946453599 + }, + "covertype_test_accuracy": { + "mean": 0.7893999934196472, + "std": 0.0074363898049998696, + "n": 5, + "ci95": 0.009232017231319426 + }, + "covertype_test_precision": { + "mean": 0.7903053879737854, + "std": 0.0058955500958211915, + "n": 5, + "ci95": 0.00731911875250723 + }, + "covertype_test_recall": { + "mean": 0.7893999934196472, + "std": 0.0074363898049998696, + "n": 5, + "ci95": 0.009232017231319426 + }, + "covertype_test_f1-score": { + "mean": 0.7876665115356445, + "std": 0.006915233447612854, + "n": 5, + "ci95": 0.008585019884787954 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7893999934196472, + "std": 0.0074363898049998696, + "n": 5, + "ci95": 0.009232017231319426 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..4774e69a4def32265ee427a4c26c797762bf75c9 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:597b8fb625b93258b05f04443ec3eb63a94ab650b6a157d1cd18b8bf70c5cb7f +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..2f921f0508eee57d623f2df496b0f3e15b84bad9 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:895e34576548efb021a6c5e15b009aac2deddaadcd058d983672e196eab81f0e +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..080cf6be2dc5e61575236a11be9b6ad425921266 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1abf0ce3099222e692228adb79cf4176c22cd27b6c886863e97ff16f9982c9b8 +size 11502352 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..46fc04dc4e44ff7cdcb55d431fed63612d4bb00c --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.0015_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_194402/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.0 +sw_s_y_weight: 0.0 +sw_seed: 0 +sw_z_weight: 0.0 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.0015 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..39aba34db7c720350c79058d5acfb5256d4acc15 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T19:13:25.221553+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0001, + "sw_z_weight": 0.0001, + "sw_s_y_weight": 0.0001, + "lambda_joint": 0.001, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..5cbdd46f8533654090ef9340185ba625f126ad54 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0001, + "sw_z_weight": 0.0001, + "sw_s_y_weight": 0.0001, + "lambda_joint": 0.001, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.001", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.0001", + "--sw-z-end-weight", + "0.0001", + "--sw-s-y-end-weight", + "0.0001", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..aaf886d196efc2f13acc428a67984bb4acba3769 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001, + "s_x": 0.0001, + "z": 0.0001, + "s_y": 0.0001 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.0001", + "--sw_z_weight", + "0.0001", + "--sw_s_y_weight", + "0.0001", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..07b7feab7938546ec2ad209a2757967788888463 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpomp7krws", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpomp7krws/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6713172197341919, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7297297120094299, + "covertype_val_precision": 0.7368212938308716, + "covertype_val_recall": 0.7297297120094299, + "covertype_val_f1-score": 0.7089881300926208, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7297297120094299 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7799279689788818, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7139999866485596, + "covertype_test_precision": 0.7058387398719788, + "covertype_test_recall": 0.7139999866485596, + "covertype_test_f1-score": 0.6965540051460266, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7139999866485596 + }, + "5": { + "covertype_test_loss": 0.7589757442474365, + "covertype_test_accuracy": 0.7242105007171631, + "covertype_test_precision": 0.716678261756897, + "covertype_test_recall": 0.7242105007171631, + "covertype_test_f1-score": 0.7098446488380432, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7242105007171631 + }, + "10": { + "covertype_test_loss": 0.7485856413841248, + "covertype_test_accuracy": 0.7311111092567444, + "covertype_test_precision": 0.7233081459999084, + "covertype_test_recall": 0.7311111092567444, + "covertype_test_f1-score": 0.7183802127838135, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7311111092567444 + }, + "20": { + "covertype_test_loss": 0.6174116730690002, + "covertype_test_accuracy": 0.7362499833106995, + "covertype_test_precision": 0.7293848991394043, + "covertype_test_recall": 0.7362499833106995, + "covertype_test_f1-score": 0.7230727672576904, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7362499833106995 + }, + "50": { + "covertype_test_loss": 0.5771422386169434, + "covertype_test_accuracy": 0.7440000176429749, + "covertype_test_precision": 0.7452369928359985, + "covertype_test_recall": 0.7440000176429749, + "covertype_test_f1-score": 0.7292304039001465, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7440000176429749 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6789324879646301, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7087087035179138, + "covertype_val_precision": 0.7206735610961914, + "covertype_val_recall": 0.7087087035179138, + "covertype_val_f1-score": 0.7043537497520447, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7087087035179138 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6665030717849731, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7049999833106995, + "covertype_test_precision": 0.7176594138145447, + "covertype_test_recall": 0.7049999833106995, + "covertype_test_f1-score": 0.7018552422523499, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7049999833106995 + }, + "5": { + "covertype_test_loss": 0.6512475609779358, + "covertype_test_accuracy": 0.7131578922271729, + "covertype_test_precision": 0.7275276780128479, + "covertype_test_recall": 0.7131578922271729, + "covertype_test_f1-score": 0.7100423574447632, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7131578922271729 + }, + "10": { + "covertype_test_loss": 0.6372354030609131, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.733147919178009, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7161200046539307, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7200000286102295 + }, + "20": { + "covertype_test_loss": 0.6262438297271729, + "covertype_test_accuracy": 0.7181249856948853, + "covertype_test_precision": 0.7328553795814514, + "covertype_test_recall": 0.7181249856948853, + "covertype_test_f1-score": 0.7150023579597473, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7181249856948853 + }, + "50": { + "covertype_test_loss": 0.5797686576843262, + "covertype_test_accuracy": 0.7459999918937683, + "covertype_test_precision": 0.7562161087989807, + "covertype_test_recall": 0.7459999918937683, + "covertype_test_f1-score": 0.7414080500602722, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7459999918937683 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6316128373146057, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7347347140312195, + "covertype_val_precision": 0.7272644639015198, + "covertype_val_recall": 0.7347347140312195, + "covertype_val_f1-score": 0.729160487651825, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7347347140312195 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6316845417022705, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7195000052452087, + "covertype_test_precision": 0.7107900381088257, + "covertype_test_recall": 0.7195000052452087, + "covertype_test_f1-score": 0.7116124033927917, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7195000052452087 + }, + "5": { + "covertype_test_loss": 0.6131554245948792, + "covertype_test_accuracy": 0.7268421053886414, + "covertype_test_precision": 0.7180396318435669, + "covertype_test_recall": 0.7268421053886414, + "covertype_test_f1-score": 0.7183644771575928, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7268421053886414 + }, + "10": { + "covertype_test_loss": 0.6002192497253418, + "covertype_test_accuracy": 0.7355555295944214, + "covertype_test_precision": 0.7246984243392944, + "covertype_test_recall": 0.7355555295944214, + "covertype_test_f1-score": 0.7257322669029236, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7355555295944214 + }, + "20": { + "covertype_test_loss": 0.58971107006073, + "covertype_test_accuracy": 0.7362499833106995, + "covertype_test_precision": 0.7260193228721619, + "covertype_test_recall": 0.7362499833106995, + "covertype_test_f1-score": 0.7259501814842224, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7362499833106995 + }, + "50": { + "covertype_test_loss": 0.5537877082824707, + "covertype_test_accuracy": 0.7459999918937683, + "covertype_test_precision": 0.7437329292297363, + "covertype_test_recall": 0.7459999918937683, + "covertype_test_f1-score": 0.732079267501831, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7459999918937683 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.7031369209289551, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7147147059440613, + "covertype_val_precision": 0.6594149470329285, + "covertype_val_recall": 0.7147147059440613, + "covertype_val_f1-score": 0.6837911605834961, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7147147059440613 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7046257257461548, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6915000081062317, + "covertype_test_precision": 0.6860711574554443, + "covertype_test_recall": 0.6915000081062317, + "covertype_test_f1-score": 0.6640002131462097, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6915000081062317 + }, + "5": { + "covertype_test_loss": 0.681329607963562, + "covertype_test_accuracy": 0.7015789747238159, + "covertype_test_precision": 0.694470226764679, + "covertype_test_recall": 0.7015789747238159, + "covertype_test_f1-score": 0.6769279837608337, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7015789747238159 + }, + "10": { + "covertype_test_loss": 0.6627098917961121, + "covertype_test_accuracy": 0.7105555534362793, + "covertype_test_precision": 0.706762969493866, + "covertype_test_recall": 0.7105555534362793, + "covertype_test_f1-score": 0.6890886425971985, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7105555534362793 + }, + "20": { + "covertype_test_loss": 0.644731879234314, + "covertype_test_accuracy": 0.7093750238418579, + "covertype_test_precision": 0.712186336517334, + "covertype_test_recall": 0.7093750238418579, + "covertype_test_f1-score": 0.6902480125427246, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7093750238418579 + }, + "50": { + "covertype_test_loss": 0.6000187993049622, + "covertype_test_accuracy": 0.7279999852180481, + "covertype_test_precision": 0.6896650195121765, + "covertype_test_recall": 0.7279999852180481, + "covertype_test_f1-score": 0.7078095078468323, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7279999852180481 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.633759617805481, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7417417168617249, + "covertype_val_precision": 0.7317047119140625, + "covertype_val_recall": 0.7417417168617249, + "covertype_val_f1-score": 0.7334082722663879, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7417417168617249 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6330756545066833, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.722000002861023, + "covertype_test_precision": 0.7120730876922607, + "covertype_test_recall": 0.722000002861023, + "covertype_test_f1-score": 0.7135716080665588, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.722000002861023 + }, + "5": { + "covertype_test_loss": 0.6170734167098999, + "covertype_test_accuracy": 0.7315789461135864, + "covertype_test_precision": 0.719960629940033, + "covertype_test_recall": 0.7315789461135864, + "covertype_test_f1-score": 0.724631130695343, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7315789461135864 + }, + "10": { + "covertype_test_loss": 0.6052733063697815, + "covertype_test_accuracy": 0.7383333444595337, + "covertype_test_precision": 0.7253708243370056, + "covertype_test_recall": 0.7383333444595337, + "covertype_test_f1-score": 0.7311037182807922, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7383333444595337 + }, + "20": { + "covertype_test_loss": 0.5953925848007202, + "covertype_test_accuracy": 0.7393749952316284, + "covertype_test_precision": 0.7272754311561584, + "covertype_test_recall": 0.7393749952316284, + "covertype_test_f1-score": 0.7329840064048767, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7393749952316284 + }, + "50": { + "covertype_test_loss": 0.5541209578514099, + "covertype_test_accuracy": 0.7580000162124634, + "covertype_test_precision": 0.7449793219566345, + "covertype_test_recall": 0.7580000162124634, + "covertype_test_f1-score": 0.7496510148048401, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7580000162124634 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6831633925437928, + "std": 0.06176656634575042, + "n": 5, + "ci95": 0.0766810266508632 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7103999972343444, + "std": 0.01241672198627287, + "n": 5, + "ci95": 0.015414925029441206 + }, + "covertype_test_precision": { + "mean": 0.7064864873886109, + "std": 0.012163163751661004, + "n": 5, + "ci95": 0.015100141370641368 + }, + "covertype_test_recall": { + "mean": 0.7103999972343444, + "std": 0.01241672198627287, + "n": 5, + "ci95": 0.015414925029441206 + }, + "covertype_test_f1-score": { + "mean": 0.6975186944007874, + "std": 0.019997209358761994, + "n": 5, + "ci95": 0.024825834338897467 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7103999972343444, + "std": 0.01241672198627287, + "n": 5, + "ci95": 0.015414925029441206 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6643563508987427, + "std": 0.059728494343427155, + "n": 5, + "ci95": 0.07415083171252533 + }, + "covertype_test_accuracy": { + "mean": 0.719473683834076, + "std": 0.012076612552865079, + "n": 5, + "ci95": 0.014992691091725368 + }, + "covertype_test_precision": { + "mean": 0.7153352856636047, + "std": 0.012394716583863898, + "n": 5, + "ci95": 0.015387606093835495 + }, + "covertype_test_recall": { + "mean": 0.719473683834076, + "std": 0.012076612552865079, + "n": 5, + "ci95": 0.014992691091725368 + }, + "covertype_test_f1-score": { + "mean": 0.7079621195793152, + "std": 0.018419106023090347, + "n": 5, + "ci95": 0.02286667437421571 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.719473683834076, + "std": 0.012076612552865079, + "n": 5, + "ci95": 0.014992691091725368 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6508046984672546, + "std": 0.0602473391414276, + "n": 5, + "ci95": 0.07479495933911907 + }, + "covertype_test_accuracy": { + "mean": 0.7271111130714416, + "std": 0.01159634311185856, + "n": 5, + "ci95": 0.014396453418430292 + }, + "covertype_test_precision": { + "mean": 0.7226576566696167, + "std": 0.009677755883361422, + "n": 5, + "ci95": 0.012014594637793757 + }, + "covertype_test_recall": { + "mean": 0.7271111130714416, + "std": 0.01159634311185856, + "n": 5, + "ci95": 0.014396453418430292 + }, + "covertype_test_f1-score": { + "mean": 0.7160849690437316, + "std": 0.01622270166739984, + "n": 5, + "ci95": 0.0201399153701293 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7271111130714416, + "std": 0.01159634311185856, + "n": 5, + "ci95": 0.014396453418430292 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6146982073783874, + "std": 0.022581794830499987, + "n": 5, + "ci95": 0.028034506589356963 + }, + "covertype_test_accuracy": { + "mean": 0.7278749942779541, + "std": 0.01332143458901921, + "n": 5, + "ci95": 0.01653809400752925 + }, + "covertype_test_precision": { + "mean": 0.725544273853302, + "std": 0.007903476080270453, + "n": 5, + "ci95": 0.009811888466540521 + }, + "covertype_test_recall": { + "mean": 0.7278749942779541, + "std": 0.01332143458901921, + "n": 5, + "ci95": 0.01653809400752925 + }, + "covertype_test_f1-score": { + "mean": 0.7174514651298523, + "std": 0.016515999926855596, + "n": 5, + "ci95": 0.02050403487653158 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7278749942779541, + "std": 0.01332143458901921, + "n": 5, + "ci95": 0.01653809400752925 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5729676723480225, + "std": 0.019484054657535877, + "n": 5, + "ci95": 0.02418877076796055 + }, + "covertype_test_accuracy": { + "mean": 0.7444000005722046, + "std": 0.010714486219993076, + "n": 5, + "ci95": 0.01330165900410493 + }, + "covertype_test_precision": { + "mean": 0.7359660744667054, + "std": 0.026369320104031216, + "n": 5, + "ci95": 0.03273658643000603 + }, + "covertype_test_recall": { + "mean": 0.7444000005722046, + "std": 0.010714486219993076, + "n": 5, + "ci95": 0.01330165900410493 + }, + "covertype_test_f1-score": { + "mean": 0.7320356488227844, + "std": 0.015755318402765478, + "n": 5, + "ci95": 0.01955967543302519 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7444000005722046, + "std": 0.010714486219993076, + "n": 5, + "ci95": 0.01330165900410493 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..e7134c809ee1a93cbe68929f6a2bd103421953ae --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpyp18x_6f", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpyp18x_6f/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6108145117759705, + "lr": 0.0, + "covertype_val_accuracy": 0.7517517805099487, + "covertype_val_precision": 0.7514216303825378, + "covertype_val_recall": 0.7517517805099487, + "covertype_val_f1-score": 0.7509191632270813, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7517517805099487 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5591597557067871, + "lr": 0.0, + "covertype_test_accuracy": 0.7770000100135803, + "covertype_test_precision": 0.7784619927406311, + "covertype_test_recall": 0.7770000100135803, + "covertype_test_f1-score": 0.7774501442909241, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7770000100135803 + }, + "5": { + "covertype_test_loss": 0.52564936876297, + "covertype_test_accuracy": 0.785263180732727, + "covertype_test_precision": 0.7854417562484741, + "covertype_test_recall": 0.785263180732727, + "covertype_test_f1-score": 0.7851215600967407, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.785263180732727 + }, + "10": { + "covertype_test_loss": 0.49608346819877625, + "covertype_test_accuracy": 0.7927777767181396, + "covertype_test_precision": 0.7918124794960022, + "covertype_test_recall": 0.7927777767181396, + "covertype_test_f1-score": 0.7921361923217773, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7927777767181396 + }, + "20": { + "covertype_test_loss": 0.4926166832447052, + "covertype_test_accuracy": 0.7962499856948853, + "covertype_test_precision": 0.7963945865631104, + "covertype_test_recall": 0.7962499856948853, + "covertype_test_f1-score": 0.7961891293525696, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7962499856948853 + }, + "50": { + "covertype_test_loss": 0.4859287738800049, + "covertype_test_accuracy": 0.7889999747276306, + "covertype_test_precision": 0.7888679504394531, + "covertype_test_recall": 0.7889999747276306, + "covertype_test_f1-score": 0.7888054251670837, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7889999747276306 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5935479402542114, + "lr": 0.0, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.7606860995292664, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7630020380020142, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5726721286773682, + "lr": 0.0, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.7730377316474915, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7695721983909607, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7730000019073486 + }, + "5": { + "covertype_test_loss": 0.5528948903083801, + "covertype_test_accuracy": 0.7778947353363037, + "covertype_test_precision": 0.7765840291976929, + "covertype_test_recall": 0.7778947353363037, + "covertype_test_f1-score": 0.775170624256134, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7778947353363037 + }, + "10": { + "covertype_test_loss": 0.5257132053375244, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7823917269706726, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7814441919326782, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7850000262260437 + }, + "20": { + "covertype_test_loss": 0.510179877281189, + "covertype_test_accuracy": 0.7912499904632568, + "covertype_test_precision": 0.7890151739120483, + "covertype_test_recall": 0.7912499904632568, + "covertype_test_f1-score": 0.7890006899833679, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7912499904632568 + }, + "50": { + "covertype_test_loss": 0.48441722989082336, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7942420244216919, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7917435169219971, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7950000166893005 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6078687310218811, + "lr": 0.0, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.7576873898506165, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.7532696723937988, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5650712847709656, + "lr": 0.0, + "covertype_test_accuracy": 0.7705000042915344, + "covertype_test_precision": 0.7774711847305298, + "covertype_test_recall": 0.7705000042915344, + "covertype_test_f1-score": 0.7691186666488647, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7705000042915344 + }, + "5": { + "covertype_test_loss": 0.5490671992301941, + "covertype_test_accuracy": 0.7752631306648254, + "covertype_test_precision": 0.7833157181739807, + "covertype_test_recall": 0.7752631306648254, + "covertype_test_f1-score": 0.7740219831466675, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7752631306648254 + }, + "10": { + "covertype_test_loss": 0.5337543487548828, + "covertype_test_accuracy": 0.7811111211776733, + "covertype_test_precision": 0.7884816527366638, + "covertype_test_recall": 0.7811111211776733, + "covertype_test_f1-score": 0.7792239189147949, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7811111211776733 + }, + "20": { + "covertype_test_loss": 0.5236066579818726, + "covertype_test_accuracy": 0.7837499976158142, + "covertype_test_precision": 0.7951640486717224, + "covertype_test_recall": 0.7837499976158142, + "covertype_test_f1-score": 0.7829449772834778, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7837499976158142 + }, + "50": { + "covertype_test_loss": 0.5122361779212952, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7902040481567383, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7790004014968872, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5975582599639893, + "lr": 0.0, + "covertype_val_accuracy": 0.7677677869796753, + "covertype_val_precision": 0.7593565583229065, + "covertype_val_recall": 0.7677677869796753, + "covertype_val_f1-score": 0.7600735425949097, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7677677869796753 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.561229407787323, + "lr": 0.0, + "covertype_test_accuracy": 0.7760000228881836, + "covertype_test_precision": 0.7750424146652222, + "covertype_test_recall": 0.7760000228881836, + "covertype_test_f1-score": 0.7751241326332092, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7760000228881836 + }, + "5": { + "covertype_test_loss": 0.5390158295631409, + "covertype_test_accuracy": 0.7821052670478821, + "covertype_test_precision": 0.7811437845230103, + "covertype_test_recall": 0.7821052670478821, + "covertype_test_f1-score": 0.7812119126319885, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7821052670478821 + }, + "10": { + "covertype_test_loss": 0.5165438055992126, + "covertype_test_accuracy": 0.7872222065925598, + "covertype_test_precision": 0.7852978706359863, + "covertype_test_recall": 0.7872222065925598, + "covertype_test_f1-score": 0.7856609225273132, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7872222065925598 + }, + "20": { + "covertype_test_loss": 0.5082914233207703, + "covertype_test_accuracy": 0.7881249785423279, + "covertype_test_precision": 0.7869141697883606, + "covertype_test_recall": 0.7881249785423279, + "covertype_test_f1-score": 0.7870081067085266, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7881249785423279 + }, + "50": { + "covertype_test_loss": 0.4937445819377899, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7832882404327393, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7832377552986145, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7860000133514404 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5924322605133057, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.7472900748252869, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7477688193321228, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5730634927749634, + "lr": 0.0, + "covertype_test_accuracy": 0.7705000042915344, + "covertype_test_precision": 0.7719389200210571, + "covertype_test_recall": 0.7705000042915344, + "covertype_test_f1-score": 0.7709937691688538, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7705000042915344 + }, + "5": { + "covertype_test_loss": 0.5443809032440186, + "covertype_test_accuracy": 0.777368426322937, + "covertype_test_precision": 0.7794502377510071, + "covertype_test_recall": 0.777368426322937, + "covertype_test_f1-score": 0.7779462933540344, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.777368426322937 + }, + "10": { + "covertype_test_loss": 0.5217541456222534, + "covertype_test_accuracy": 0.7838888764381409, + "covertype_test_precision": 0.7835962176322937, + "covertype_test_recall": 0.7838888764381409, + "covertype_test_f1-score": 0.783576488494873, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7838888764381409 + }, + "20": { + "covertype_test_loss": 0.5175538063049316, + "covertype_test_accuracy": 0.7868750095367432, + "covertype_test_precision": 0.787071943283081, + "covertype_test_recall": 0.7868750095367432, + "covertype_test_f1-score": 0.7868378758430481, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7868750095367432 + }, + "50": { + "covertype_test_loss": 0.515293538570404, + "covertype_test_accuracy": 0.7820000052452087, + "covertype_test_precision": 0.7820639610290527, + "covertype_test_recall": 0.7820000052452087, + "covertype_test_f1-score": 0.7804479598999023, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7820000052452087 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5662392139434814, + "std": 0.006413542678244708, + "n": 5, + "ci95": 0.00796218838333996 + }, + "lr": { + "mean": 0.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7734000086784363, + "std": 0.0030290320157165236, + "n": 5, + "ci95": 0.0037604370530054066 + }, + "covertype_test_precision": { + "mean": 0.7751904487609863, + "std": 0.0027898611427966844, + "n": 5, + "ci95": 0.0034635147993412572 + }, + "covertype_test_recall": { + "mean": 0.7734000086784363, + "std": 0.0030290320157165236, + "n": 5, + "ci95": 0.0037604370530054066 + }, + "covertype_test_f1-score": { + "mean": 0.7724517822265625, + "std": 0.00366239486604577, + "n": 5, + "ci95": 0.004546734826689326 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7734000086784363, + "std": 0.0030290320157165236, + "n": 5, + "ci95": 0.0037604370530054066 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5422016382217407, + "std": 0.010610817183792934, + "n": 5, + "ci95": 0.013172957530184009 + }, + "covertype_test_accuracy": { + "mean": 0.7795789480209351, + "std": 0.004032432496130933, + "n": 5, + "ci95": 0.005006123571330703 + }, + "covertype_test_precision": { + "mean": 0.781187105178833, + "std": 0.003421985631059939, + "n": 5, + "ci95": 0.004248275189935849 + }, + "covertype_test_recall": { + "mean": 0.7795789480209351, + "std": 0.004032432496130933, + "n": 5, + "ci95": 0.005006123571330703 + }, + "covertype_test_f1-score": { + "mean": 0.7786944746971131, + "std": 0.004540220122184647, + "n": 5, + "ci95": 0.005636524106604789 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7795789480209351, + "std": 0.004032432496130933, + "n": 5, + "ci95": 0.005006123571330703 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5187697947025299, + "std": 0.014153432441717965, + "n": 5, + "ci95": 0.017570990172731796 + }, + "covertype_test_accuracy": { + "mean": 0.7860000014305115, + "std": 0.0043814943962440945, + "n": 5, + "ci95": 0.005439471682597695 + }, + "covertype_test_precision": { + "mean": 0.7863159894943237, + "std": 0.003831940140565206, + "n": 5, + "ci95": 0.004757219340935716 + }, + "covertype_test_recall": { + "mean": 0.7860000014305115, + "std": 0.0043814943962440945, + "n": 5, + "ci95": 0.005439471682597695 + }, + "covertype_test_f1-score": { + "mean": 0.7844083428382873, + "std": 0.004940775171347053, + "n": 5, + "ci95": 0.006133799157123661 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7860000014305115, + "std": 0.0043814943962440945, + "n": 5, + "ci95": 0.005439471682597695 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5104496896266937, + "std": 0.011686758734207594, + "n": 5, + "ci95": 0.014508701243705069 + }, + "covertype_test_accuracy": { + "mean": 0.7892499923706054, + "std": 0.004747526745271122, + "n": 5, + "ci95": 0.005893888011226114 + }, + "covertype_test_precision": { + "mean": 0.7909119844436645, + "std": 0.0045405204692212766, + "n": 5, + "ci95": 0.00563689697692093 + }, + "covertype_test_recall": { + "mean": 0.7892499923706054, + "std": 0.004747526745271122, + "n": 5, + "ci95": 0.005893888011226114 + }, + "covertype_test_f1-score": { + "mean": 0.788396155834198, + "std": 0.004877657283304167, + "n": 5, + "ci95": 0.006055440511961645 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7892499923706054, + "std": 0.004747526745271122, + "n": 5, + "ci95": 0.005893888011226114 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.4983240604400635, + "std": 0.014573305124539632, + "n": 5, + "ci95": 0.018092247388183803 + }, + "covertype_test_accuracy": { + "mean": 0.7863999962806701, + "std": 0.005941390094360685, + "n": 5, + "ci95": 0.007376027503594447 + }, + "covertype_test_precision": { + "mean": 0.7877332448959351, + "std": 0.005041217129328012, + "n": 5, + "ci95": 0.006258494326573252 + }, + "covertype_test_recall": { + "mean": 0.7863999962806701, + "std": 0.005941390094360685, + "n": 5, + "ci95": 0.007376027503594447 + }, + "covertype_test_f1-score": { + "mean": 0.784647011756897, + "std": 0.005457907917409884, + "n": 5, + "ci95": 0.00677580133125951 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7863999962806701, + "std": 0.005941390094360685, + "n": 5, + "ci95": 0.007376027503594447 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..5c0e3e8bab6b348ed03cda606100b0e86f4b667d --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:49e376176ec8cfbd9941d7a1bd3fd32435fbfb2b8e5bb6cf086e437356e2dd9d +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..5b52d491d62a9ecc109c70638e1b27c5e660f160 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:72503df271c023f949f912f810a0c693d721b430d3d9e31d29770cf6e5ae1dd1 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..5208d4db6f43179016c8405d1f79fd20e6c2a74f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:67524cde8d8d6cbd10503a49cdb38170c2f323161d3a9989e6c25eabb69942a6 +size 11498832 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..de05c8e915c0a9499c80cd3add39c4f170d81808 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0001_z0.0001_sy0.0001/seed_42/wjepa_joint/covertype/20260905_184603/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.0001 +sw_s_y_weight: 0.0001 +sw_seed: 0 +sw_z_weight: 0.0001 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..06b41ea57d04a81f7a07cb36a223f324a07a09ff --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T19:43:41.231045+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.00025, + "sw_z_weight": 0.00025, + "sw_s_y_weight": 0.00025, + "lambda_joint": 0.001, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..0ce2256c187f329af575793fe24348a3007624dd --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.00025, + "sw_z_weight": 0.00025, + "sw_s_y_weight": 0.00025, + "lambda_joint": 0.001, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.001", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.00025", + "--sw-z-end-weight", + "0.00025", + "--sw-s-y-end-weight", + "0.00025", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..039f3a5dc3f473931e557d82a5e968388bcaf74c --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001, + "s_x": 0.00025, + "z": 0.00025, + "s_y": 0.00025 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.00025", + "--sw_z_weight", + "0.00025", + "--sw_s_y_weight", + "0.00025", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..365e958d4cbcc3d5c2b77421e86e30bf0bd121a6 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpzdpf0ars", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpzdpf0ars/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6059890985488892, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7477477192878723, + "covertype_val_precision": 0.7422035932540894, + "covertype_val_recall": 0.7477477192878723, + "covertype_val_f1-score": 0.7397626638412476, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7477477192878723 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6164361238479614, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.734000027179718, + "covertype_test_precision": 0.7253661751747131, + "covertype_test_recall": 0.734000027179718, + "covertype_test_f1-score": 0.7260453701019287, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.734000027179718 + }, + "5": { + "covertype_test_loss": 0.6024872660636902, + "covertype_test_accuracy": 0.74210524559021, + "covertype_test_precision": 0.7327913641929626, + "covertype_test_recall": 0.74210524559021, + "covertype_test_f1-score": 0.7347097396850586, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.74210524559021 + }, + "10": { + "covertype_test_loss": 0.5890060067176819, + "covertype_test_accuracy": 0.7438889145851135, + "covertype_test_precision": 0.7338118553161621, + "covertype_test_recall": 0.7438889145851135, + "covertype_test_f1-score": 0.7361236810684204, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7438889145851135 + }, + "20": { + "covertype_test_loss": 0.5755425095558167, + "covertype_test_accuracy": 0.7462499737739563, + "covertype_test_precision": 0.7369776368141174, + "covertype_test_recall": 0.7462499737739563, + "covertype_test_f1-score": 0.7394151091575623, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7462499737739563 + }, + "50": { + "covertype_test_loss": 0.5230183005332947, + "covertype_test_accuracy": 0.7699999809265137, + "covertype_test_precision": 0.7627430558204651, + "covertype_test_recall": 0.7699999809265137, + "covertype_test_f1-score": 0.7621634006500244, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7699999809265137 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.8047897815704346, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7117117047309875, + "covertype_val_precision": 0.7005653381347656, + "covertype_val_recall": 0.7117117047309875, + "covertype_val_f1-score": 0.6970623731613159, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7117117047309875 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.8139664530754089, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.718999981880188, + "covertype_test_precision": 0.7131979465484619, + "covertype_test_recall": 0.718999981880188, + "covertype_test_f1-score": 0.7032864689826965, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.718999981880188 + }, + "5": { + "covertype_test_loss": 0.7809251546859741, + "covertype_test_accuracy": 0.7268421053886414, + "covertype_test_precision": 0.7122393846511841, + "covertype_test_recall": 0.7268421053886414, + "covertype_test_f1-score": 0.7131152749061584, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7268421053886414 + }, + "10": { + "covertype_test_loss": 0.6246151328086853, + "covertype_test_accuracy": 0.7338888645172119, + "covertype_test_precision": 0.7191116809844971, + "covertype_test_recall": 0.7338888645172119, + "covertype_test_f1-score": 0.7224276661872864, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7338888645172119 + }, + "20": { + "covertype_test_loss": 0.605877161026001, + "covertype_test_accuracy": 0.734375, + "covertype_test_precision": 0.7208214402198792, + "covertype_test_recall": 0.734375, + "covertype_test_f1-score": 0.7252804636955261, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.734375 + }, + "50": { + "covertype_test_loss": 0.5728293657302856, + "covertype_test_accuracy": 0.746999979019165, + "covertype_test_precision": 0.7397964000701904, + "covertype_test_recall": 0.746999979019165, + "covertype_test_f1-score": 0.7364680171012878, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.746999979019165 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.664691686630249, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.728728711605072, + "covertype_val_precision": 0.7105826139450073, + "covertype_val_recall": 0.728728711605072, + "covertype_val_f1-score": 0.7128714323043823, + "covertype_val_support": 999.0, + "covertype_val_score": 0.728728711605072 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6558992862701416, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.6946613192558289, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7023037075996399, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7200000286102295 + }, + "5": { + "covertype_test_loss": 0.6320984363555908, + "covertype_test_accuracy": 0.7294737100601196, + "covertype_test_precision": 0.708405613899231, + "covertype_test_recall": 0.7294737100601196, + "covertype_test_f1-score": 0.7146459817886353, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7294737100601196 + }, + "10": { + "covertype_test_loss": 0.6233733296394348, + "covertype_test_accuracy": 0.7338888645172119, + "covertype_test_precision": 0.716358482837677, + "covertype_test_recall": 0.7338888645172119, + "covertype_test_f1-score": 0.7214415669441223, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7338888645172119 + }, + "20": { + "covertype_test_loss": 0.6089309453964233, + "covertype_test_accuracy": 0.7356250286102295, + "covertype_test_precision": 0.7212424874305725, + "covertype_test_recall": 0.7356250286102295, + "covertype_test_f1-score": 0.724975049495697, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7356250286102295 + }, + "50": { + "covertype_test_loss": 0.5817254781723022, + "covertype_test_accuracy": 0.7429999709129333, + "covertype_test_precision": 0.7370629906654358, + "covertype_test_recall": 0.7429999709129333, + "covertype_test_f1-score": 0.7322879433631897, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7429999709129333 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.7779370546340942, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6826826930046082, + "covertype_val_precision": 0.6874834299087524, + "covertype_val_recall": 0.6826826930046082, + "covertype_val_f1-score": 0.6712775826454163, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6826826930046082 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7658462524414062, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6700000166893005, + "covertype_test_precision": 0.6785739660263062, + "covertype_test_recall": 0.6700000166893005, + "covertype_test_f1-score": 0.6605400443077087, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6700000166893005 + }, + "5": { + "covertype_test_loss": 0.739612340927124, + "covertype_test_accuracy": 0.6794736981391907, + "covertype_test_precision": 0.6941297054290771, + "covertype_test_recall": 0.6794736981391907, + "covertype_test_f1-score": 0.6710965037345886, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6794736981391907 + }, + "10": { + "covertype_test_loss": 0.7290319800376892, + "covertype_test_accuracy": 0.6822222471237183, + "covertype_test_precision": 0.701308012008667, + "covertype_test_recall": 0.6822222471237183, + "covertype_test_f1-score": 0.6738511323928833, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6822222471237183 + }, + "20": { + "covertype_test_loss": 0.7012391686439514, + "covertype_test_accuracy": 0.6818749904632568, + "covertype_test_precision": 0.7055790424346924, + "covertype_test_recall": 0.6818749904632568, + "covertype_test_f1-score": 0.6751051545143127, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6818749904632568 + }, + "50": { + "covertype_test_loss": 0.6463626623153687, + "covertype_test_accuracy": 0.6959999799728394, + "covertype_test_precision": 0.7189624309539795, + "covertype_test_recall": 0.6959999799728394, + "covertype_test_f1-score": 0.6923655271530151, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6959999799728394 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6661080121994019, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.717717707157135, + "covertype_val_precision": 0.7042179703712463, + "covertype_val_recall": 0.717717707157135, + "covertype_val_f1-score": 0.7079967856407166, + "covertype_val_support": 999.0, + "covertype_val_score": 0.717717707157135 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6612712144851685, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.718500018119812, + "covertype_test_precision": 0.7107774615287781, + "covertype_test_recall": 0.718500018119812, + "covertype_test_f1-score": 0.7111822962760925, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.718500018119812 + }, + "5": { + "covertype_test_loss": 0.642415463924408, + "covertype_test_accuracy": 0.7221052646636963, + "covertype_test_precision": 0.713588535785675, + "covertype_test_recall": 0.7221052646636963, + "covertype_test_f1-score": 0.714715301990509, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7221052646636963 + }, + "10": { + "covertype_test_loss": 0.6314272880554199, + "covertype_test_accuracy": 0.7255555391311646, + "covertype_test_precision": 0.7155846357345581, + "covertype_test_recall": 0.7255555391311646, + "covertype_test_f1-score": 0.7163761854171753, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7255555391311646 + }, + "20": { + "covertype_test_loss": 0.6088297963142395, + "covertype_test_accuracy": 0.7275000214576721, + "covertype_test_precision": 0.7217815518379211, + "covertype_test_recall": 0.7275000214576721, + "covertype_test_f1-score": 0.7208437919616699, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7275000214576721 + }, + "50": { + "covertype_test_loss": 0.5650005340576172, + "covertype_test_accuracy": 0.7540000081062317, + "covertype_test_precision": 0.7456749081611633, + "covertype_test_recall": 0.7540000081062317, + "covertype_test_f1-score": 0.7484568953514099, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7540000081062317 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.7026838660240173, + "std": 0.08324028303574298, + "n": 5, + "ci95": 0.10333989307677217 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7123000144958496, + "std": 0.02450918292275418, + "n": 5, + "ci95": 0.030427291333799348 + }, + "covertype_test_precision": { + "mean": 0.7045153737068176, + "std": 0.018161881499885613, + "n": 5, + "ci95": 0.022547339146663847 + }, + "covertype_test_recall": { + "mean": 0.7123000144958496, + "std": 0.02450918292275418, + "n": 5, + "ci95": 0.030427291333799348 + }, + "covertype_test_f1-score": { + "mean": 0.7006715774536133, + "std": 0.02436363079822156, + "n": 5, + "ci95": 0.030246593474088333 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7123000144958496, + "std": 0.02450918292275418, + "n": 5, + "ci95": 0.030427291333799348 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6795077323913574, + "std": 0.07657298393703371, + "n": 5, + "ci95": 0.09506267499384444 + }, + "covertype_test_accuracy": { + "mean": 0.7200000047683716, + "std": 0.023832859421781077, + "n": 5, + "ci95": 0.0295876594184939 + }, + "covertype_test_precision": { + "mean": 0.712230920791626, + "std": 0.013846136585623196, + "n": 5, + "ci95": 0.017189493140842407 + }, + "covertype_test_recall": { + "mean": 0.7200000047683716, + "std": 0.023832859421781077, + "n": 5, + "ci95": 0.0295876594184939 + }, + "covertype_test_f1-score": { + "mean": 0.70965656042099, + "std": 0.02332910017894525, + "n": 5, + "ci95": 0.028962259979754167 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7200000047683716, + "std": 0.023832859421781077, + "n": 5, + "ci95": 0.0295876594184939 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6394907474517822, + "std": 0.0527077219802215, + "n": 5, + "ci95": 0.06543478896410636 + }, + "covertype_test_accuracy": { + "mean": 0.723888885974884, + "std": 0.024181019478099197, + "n": 5, + "ci95": 0.030019887922306993 + }, + "covertype_test_precision": { + "mean": 0.7172349333763123, + "std": 0.011570166319989868, + "n": 5, + "ci95": 0.014363955849054635 + }, + "covertype_test_recall": { + "mean": 0.723888885974884, + "std": 0.024181019478099197, + "n": 5, + "ci95": 0.030019887922306993 + }, + "covertype_test_f1-score": { + "mean": 0.7140440464019775, + "std": 0.023629578216762107, + "n": 5, + "ci95": 0.029335292929276686 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.723888885974884, + "std": 0.024181019478099197, + "n": 5, + "ci95": 0.030019887922306993 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6200839161872864, + "std": 0.047494704362187674, + "n": 5, + "ci95": 0.05896301035393964 + }, + "covertype_test_accuracy": { + "mean": 0.725125002861023, + "std": 0.025091241846602153, + "n": 5, + "ci95": 0.031149897081415596 + }, + "covertype_test_precision": { + "mean": 0.7212804317474365, + "std": 0.01110629447199231, + "n": 5, + "ci95": 0.013788075212598743 + }, + "covertype_test_recall": { + "mean": 0.725125002861023, + "std": 0.025091241846602153, + "n": 5, + "ci95": 0.031149897081415596 + }, + "covertype_test_f1-score": { + "mean": 0.7171239137649537, + "std": 0.02451775200658524, + "n": 5, + "ci95": 0.030437929550953025 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.725125002861023, + "std": 0.025091241846602153, + "n": 5, + "ci95": 0.031149897081415596 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5777872681617737, + "std": 0.04445732606125752, + "n": 5, + "ci95": 0.055192211680453025 + }, + "covertype_test_accuracy": { + "mean": 0.7419999837875366, + "std": 0.027703793517095385, + "n": 5, + "ci95": 0.03439328838716577 + }, + "covertype_test_precision": { + "mean": 0.7408479571342468, + "std": 0.0157884673283353, + "n": 5, + "ci95": 0.01960082866195552 + }, + "covertype_test_recall": { + "mean": 0.7419999837875366, + "std": 0.027703793517095385, + "n": 5, + "ci95": 0.03439328838716577 + }, + "covertype_test_f1-score": { + "mean": 0.7343483567237854, + "std": 0.026191715163991245, + "n": 5, + "ci95": 0.032516096123578836 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7419999837875366, + "std": 0.027703793517095385, + "n": 5, + "ci95": 0.03439328838716577 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..bc9d37ccc1be0fb062641f8361ef6f19815842bc --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp9eurzyqo", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp9eurzyqo/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5965673923492432, + "lr": 0.0, + "covertype_val_accuracy": 0.7557557821273804, + "covertype_val_precision": 0.7557885646820068, + "covertype_val_recall": 0.7557557821273804, + "covertype_val_f1-score": 0.7556101679801941, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7557557821273804 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5643261075019836, + "lr": 0.0, + "covertype_test_accuracy": 0.7720000147819519, + "covertype_test_precision": 0.7741559743881226, + "covertype_test_recall": 0.7720000147819519, + "covertype_test_f1-score": 0.7727544903755188, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7720000147819519 + }, + "5": { + "covertype_test_loss": 0.5345911383628845, + "covertype_test_accuracy": 0.780526340007782, + "covertype_test_precision": 0.7832912802696228, + "covertype_test_recall": 0.780526340007782, + "covertype_test_f1-score": 0.7809985280036926, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.780526340007782 + }, + "10": { + "covertype_test_loss": 0.5014821290969849, + "covertype_test_accuracy": 0.7894444465637207, + "covertype_test_precision": 0.7897878885269165, + "covertype_test_recall": 0.7894444465637207, + "covertype_test_f1-score": 0.788968563079834, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7894444465637207 + }, + "20": { + "covertype_test_loss": 0.49136799573898315, + "covertype_test_accuracy": 0.7925000190734863, + "covertype_test_precision": 0.7922057509422302, + "covertype_test_recall": 0.7925000190734863, + "covertype_test_f1-score": 0.792193591594696, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7925000190734863 + }, + "50": { + "covertype_test_loss": 0.4789336323738098, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7827460765838623, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7832650542259216, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7850000262260437 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5780888795852661, + "lr": 0.0, + "covertype_val_accuracy": 0.7617617845535278, + "covertype_val_precision": 0.7562085390090942, + "covertype_val_recall": 0.7617617845535278, + "covertype_val_f1-score": 0.7580786943435669, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7617617845535278 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5452277064323425, + "lr": 0.0, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7802593111991882, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7786744236946106, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7799999713897705 + }, + "5": { + "covertype_test_loss": 0.5251374840736389, + "covertype_test_accuracy": 0.7878947257995605, + "covertype_test_precision": 0.7877373695373535, + "covertype_test_recall": 0.7878947257995605, + "covertype_test_f1-score": 0.7868519425392151, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7878947257995605 + }, + "10": { + "covertype_test_loss": 0.5025322437286377, + "covertype_test_accuracy": 0.7950000166893005, + "covertype_test_precision": 0.7932969927787781, + "covertype_test_recall": 0.7950000166893005, + "covertype_test_f1-score": 0.7931709289550781, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7950000166893005 + }, + "20": { + "covertype_test_loss": 0.47950708866119385, + "covertype_test_accuracy": 0.8025000095367432, + "covertype_test_precision": 0.8022425174713135, + "covertype_test_recall": 0.8025000095367432, + "covertype_test_f1-score": 0.800759494304657, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8025000095367432 + }, + "50": { + "covertype_test_loss": 0.46396127343177795, + "covertype_test_accuracy": 0.8019999861717224, + "covertype_test_precision": 0.8014170527458191, + "covertype_test_recall": 0.8019999861717224, + "covertype_test_f1-score": 0.7994546294212341, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8019999861717224 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5845766663551331, + "lr": 0.0, + "covertype_val_accuracy": 0.7517517805099487, + "covertype_val_precision": 0.7489168047904968, + "covertype_val_recall": 0.7517517805099487, + "covertype_val_f1-score": 0.746931791305542, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7517517805099487 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5681329369544983, + "lr": 0.0, + "covertype_test_accuracy": 0.7680000066757202, + "covertype_test_precision": 0.7718197703361511, + "covertype_test_recall": 0.7680000066757202, + "covertype_test_f1-score": 0.7669065594673157, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7680000066757202 + }, + "5": { + "covertype_test_loss": 0.5472427606582642, + "covertype_test_accuracy": 0.7726315855979919, + "covertype_test_precision": 0.776397705078125, + "covertype_test_recall": 0.7726315855979919, + "covertype_test_f1-score": 0.7719293236732483, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7726315855979919 + }, + "10": { + "covertype_test_loss": 0.5311054587364197, + "covertype_test_accuracy": 0.7788888812065125, + "covertype_test_precision": 0.7819443941116333, + "covertype_test_recall": 0.7788888812065125, + "covertype_test_f1-score": 0.7773563265800476, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7788888812065125 + }, + "20": { + "covertype_test_loss": 0.5138096213340759, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.786375105381012, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7799193859100342, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7799999713897705 + }, + "50": { + "covertype_test_loss": 0.4840138256549835, + "covertype_test_accuracy": 0.7789999842643738, + "covertype_test_precision": 0.7813302278518677, + "covertype_test_recall": 0.7789999842643738, + "covertype_test_f1-score": 0.7787507772445679, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7789999842643738 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5837388038635254, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7447447180747986, + "covertype_val_precision": 0.7503235936164856, + "covertype_val_recall": 0.7447447180747986, + "covertype_val_f1-score": 0.7444542646408081, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7447447180747986 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5442517995834351, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7764999866485596, + "covertype_test_precision": 0.7789767980575562, + "covertype_test_recall": 0.7764999866485596, + "covertype_test_f1-score": 0.7763338088989258, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7764999866485596 + }, + "5": { + "covertype_test_loss": 0.5290348529815674, + "covertype_test_accuracy": 0.7847368717193604, + "covertype_test_precision": 0.787092924118042, + "covertype_test_recall": 0.7847368717193604, + "covertype_test_f1-score": 0.7835946083068848, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7847368717193604 + }, + "10": { + "covertype_test_loss": 0.50374436378479, + "covertype_test_accuracy": 0.7927777767181396, + "covertype_test_precision": 0.7924392819404602, + "covertype_test_recall": 0.7927777767181396, + "covertype_test_f1-score": 0.7909067273139954, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7927777767181396 + }, + "20": { + "covertype_test_loss": 0.4878169000148773, + "covertype_test_accuracy": 0.8006250262260437, + "covertype_test_precision": 0.7991087436676025, + "covertype_test_recall": 0.8006250262260437, + "covertype_test_f1-score": 0.7983400821685791, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8006250262260437 + }, + "50": { + "covertype_test_loss": 0.46436160802841187, + "covertype_test_accuracy": 0.8050000071525574, + "covertype_test_precision": 0.8071073889732361, + "covertype_test_recall": 0.8050000071525574, + "covertype_test_f1-score": 0.8030180931091309, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8050000071525574 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6189415454864502, + "lr": 0.0, + "covertype_val_accuracy": 0.7387387156486511, + "covertype_val_precision": 0.7384694814682007, + "covertype_val_recall": 0.7387387156486511, + "covertype_val_f1-score": 0.7382115125656128, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7387387156486511 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.593972384929657, + "lr": 0.0, + "covertype_test_accuracy": 0.765999972820282, + "covertype_test_precision": 0.7696967720985413, + "covertype_test_recall": 0.765999972820282, + "covertype_test_f1-score": 0.7671442031860352, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.765999972820282 + }, + "5": { + "covertype_test_loss": 0.566372811794281, + "covertype_test_accuracy": 0.7715789675712585, + "covertype_test_precision": 0.7733559608459473, + "covertype_test_recall": 0.7715789675712585, + "covertype_test_f1-score": 0.7721680402755737, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7715789675712585 + }, + "10": { + "covertype_test_loss": 0.5531205534934998, + "covertype_test_accuracy": 0.7755555510520935, + "covertype_test_precision": 0.7760931849479675, + "covertype_test_recall": 0.7755555510520935, + "covertype_test_f1-score": 0.7756672501564026, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7755555510520935 + }, + "20": { + "covertype_test_loss": 0.5372101664543152, + "covertype_test_accuracy": 0.7793750166893005, + "covertype_test_precision": 0.7803282141685486, + "covertype_test_recall": 0.7793750166893005, + "covertype_test_f1-score": 0.7797377705574036, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7793750166893005 + }, + "50": { + "covertype_test_loss": 0.5366284847259521, + "covertype_test_accuracy": 0.7739999890327454, + "covertype_test_precision": 0.7765995860099792, + "covertype_test_recall": 0.7739999890327454, + "covertype_test_f1-score": 0.7725731730461121, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7739999890327454 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5631821870803833, + "std": 0.0203382503424576, + "n": 5, + "ci95": 0.02524922476363651 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7724999904632568, + "std": 0.005809469478994585, + "n": 5, + "ci95": 0.007212252684608057 + }, + "covertype_test_precision": { + "mean": 0.7749817252159119, + "std": 0.004539385238249826, + "n": 5, + "ci95": 0.005635487627469815 + }, + "covertype_test_recall": { + "mean": 0.7724999904632568, + "std": 0.005809469478994585, + "n": 5, + "ci95": 0.007212252684608057 + }, + "covertype_test_f1-score": { + "mean": 0.7723626971244812, + "std": 0.005309501862046623, + "n": 5, + "ci95": 0.006591560416477906 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7724999904632568, + "std": 0.005809469478994585, + "n": 5, + "ci95": 0.007212252684608057 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5404758095741272, + "std": 0.016712535887335806, + "n": 5, + "ci95": 0.02074802738113473 + }, + "covertype_test_accuracy": { + "mean": 0.7794736981391907, + "std": 0.007226064500506013, + "n": 5, + "ci95": 0.008970905739562463 + }, + "covertype_test_precision": { + "mean": 0.7815750479698181, + "std": 0.006436708983706029, + "n": 5, + "ci95": 0.007990948539385187 + }, + "covertype_test_recall": { + "mean": 0.7794736981391907, + "std": 0.007226064500506013, + "n": 5, + "ci95": 0.008970905739562463 + }, + "covertype_test_f1-score": { + "mean": 0.7791084885597229, + "std": 0.006770687370391015, + "n": 5, + "ci95": 0.00840557099754237 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7794736981391907, + "std": 0.007226064500506013, + "n": 5, + "ci95": 0.008970905739562463 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5183969497680664, + "std": 0.023020280123889045, + "n": 5, + "ci95": 0.028578870708290887 + }, + "covertype_test_accuracy": { + "mean": 0.7863333344459533, + "std": 0.00862991504644155, + "n": 5, + "ci95": 0.010713736974896594 + }, + "covertype_test_precision": { + "mean": 0.7867123484611511, + "std": 0.0074349559003573104, + "n": 5, + "ci95": 0.009230237088976797 + }, + "covertype_test_recall": { + "mean": 0.7863333344459533, + "std": 0.00862991504644155, + "n": 5, + "ci95": 0.010713736974896594 + }, + "covertype_test_f1-score": { + "mean": 0.7852139592170715, + "std": 0.008104012443392768, + "n": 5, + "ci95": 0.010060847330774154 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7863333344459533, + "std": 0.00862991504644155, + "n": 5, + "ci95": 0.010713736974896594 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5019423544406891, + "std": 0.02344854613313992, + "n": 5, + "ci95": 0.02911054794424403 + }, + "covertype_test_accuracy": { + "mean": 0.7910000085830688, + "std": 0.010991840983401911, + "n": 5, + "ci95": 0.013645985219126269 + }, + "covertype_test_precision": { + "mean": 0.7920520663261413, + "std": 0.008990859296953643, + "n": 5, + "ci95": 0.011161836607601817 + }, + "covertype_test_recall": { + "mean": 0.7910000085830688, + "std": 0.010991840983401911, + "n": 5, + "ci95": 0.013645985219126269 + }, + "covertype_test_f1-score": { + "mean": 0.790190064907074, + "std": 0.009961012029077714, + "n": 5, + "ci95": 0.012366247212053878 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7910000085830688, + "std": 0.010991840983401911, + "n": 5, + "ci95": 0.013645985219126269 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.48557976484298704, + "std": 0.02987542632972891, + "n": 5, + "ci95": 0.0370892943890098 + }, + "covertype_test_accuracy": { + "mean": 0.7889999985694885, + "std": 0.013838355242492878, + "n": 5, + "ci95": 0.017179832876151387 + }, + "covertype_test_precision": { + "mean": 0.7898400664329529, + "std": 0.013511471110548422, + "n": 5, + "ci95": 0.01677401768653786 + }, + "covertype_test_recall": { + "mean": 0.7889999985694885, + "std": 0.013838355242492878, + "n": 5, + "ci95": 0.017179832876151387 + }, + "covertype_test_f1-score": { + "mean": 0.7874123454093933, + "std": 0.013238011455193056, + "n": 5, + "ci95": 0.016434527111606728 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7889999985694885, + "std": 0.013838355242492878, + "n": 5, + "ci95": 0.017179832876151387 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..8605059c8485a401f8066eaab9f3a36620b1edf7 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:98c5607e48e8c38d9f2bc10a9401b3065e5869f5f347d18bc52b9cfb606ac343 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..62486f52b27740ad5c57564ab9c6a7e8eac081b1 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9c8d61dc68282128d93cedb50fb30a015328ec9fe7185c3c63d4b432b19e0fdc +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..4e2431c975df621d4e1ab4913e83d8eee81b8275 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:3c6f7d31be7e1f99274724a7f0f0c9778e5de84bc07e9b0c44512faf3c47b7ea +size 11498832 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..be0fe0fbfde2f85363621d7f9cc0d216c0650e5c --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.00025_z0.00025_sy0.00025/seed_42/wjepa_joint/covertype/20260905_191635/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.00025 +sw_s_y_weight: 0.00025 +sw_seed: 0 +sw_z_weight: 0.00025 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..6e987a5c605356d51c0d755b59a682368ae740a7 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T19:26:28.915606+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0005, + "sw_z_weight": 0.0005, + "sw_s_y_weight": 0.0005, + "lambda_joint": 0.001, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..229452bbf1195488bb43e7b314f6b52ecb1aa090 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0005, + "sw_z_weight": 0.0005, + "sw_s_y_weight": 0.0005, + "lambda_joint": 0.001, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.001", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.0005", + "--sw-z-end-weight", + "0.0005", + "--sw-s-y-end-weight", + "0.0005", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..7e3bf34aeb940f2dafe394c0ef40d1a7fa321249 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001, + "s_x": 0.0005, + "z": 0.0005, + "s_y": 0.0005 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.0005", + "--sw_z_weight", + "0.0005", + "--sw_s_y_weight", + "0.0005", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..d3b081645f0db7f8a1543b35e5121003e58dad5b --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmprxnrx4t5", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmprxnrx4t5/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6473848223686218, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.717717707157135, + "covertype_val_precision": 0.7226395606994629, + "covertype_val_recall": 0.717717707157135, + "covertype_val_f1-score": 0.7126128673553467, + "covertype_val_support": 999.0, + "covertype_val_score": 0.717717707157135 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6585806012153625, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7149999737739563, + "covertype_test_precision": 0.7153746485710144, + "covertype_test_recall": 0.7149999737739563, + "covertype_test_f1-score": 0.7095967531204224, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7149999737739563 + }, + "5": { + "covertype_test_loss": 0.6308786273002625, + "covertype_test_accuracy": 0.7210526466369629, + "covertype_test_precision": 0.7201910018920898, + "covertype_test_recall": 0.7210526466369629, + "covertype_test_f1-score": 0.7152738571166992, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7210526466369629 + }, + "10": { + "covertype_test_loss": 0.6188860535621643, + "covertype_test_accuracy": 0.7277777791023254, + "covertype_test_precision": 0.7247439622879028, + "covertype_test_recall": 0.7277777791023254, + "covertype_test_f1-score": 0.7209392786026001, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7277777791023254 + }, + "20": { + "covertype_test_loss": 0.601149320602417, + "covertype_test_accuracy": 0.7293750047683716, + "covertype_test_precision": 0.7273236513137817, + "covertype_test_recall": 0.7293750047683716, + "covertype_test_f1-score": 0.7228618860244751, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7293750047683716 + }, + "50": { + "covertype_test_loss": 0.5594976544380188, + "covertype_test_accuracy": 0.7459999918937683, + "covertype_test_precision": 0.7421778440475464, + "covertype_test_recall": 0.7459999918937683, + "covertype_test_f1-score": 0.7410479784011841, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7459999918937683 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.630704939365387, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7327327132225037, + "covertype_val_precision": 0.7199605107307434, + "covertype_val_recall": 0.7327327132225037, + "covertype_val_f1-score": 0.7184271216392517, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7327327132225037 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6266638040542603, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7195000052452087, + "covertype_test_precision": 0.7029675245285034, + "covertype_test_recall": 0.7195000052452087, + "covertype_test_f1-score": 0.7043928503990173, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7195000052452087 + }, + "5": { + "covertype_test_loss": 0.6082267165184021, + "covertype_test_accuracy": 0.7294737100601196, + "covertype_test_precision": 0.7136868834495544, + "covertype_test_recall": 0.7294737100601196, + "covertype_test_f1-score": 0.7180150747299194, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7294737100601196 + }, + "10": { + "covertype_test_loss": 0.5960182547569275, + "covertype_test_accuracy": 0.7344444394111633, + "covertype_test_precision": 0.7183454036712646, + "covertype_test_recall": 0.7344444394111633, + "covertype_test_f1-score": 0.7243738770484924, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7344444394111633 + }, + "20": { + "covertype_test_loss": 0.5805613994598389, + "covertype_test_accuracy": 0.7362499833106995, + "covertype_test_precision": 0.7223268747329712, + "covertype_test_recall": 0.7362499833106995, + "covertype_test_f1-score": 0.7277029752731323, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7362499833106995 + }, + "50": { + "covertype_test_loss": 0.5459616184234619, + "covertype_test_accuracy": 0.746999979019165, + "covertype_test_precision": 0.7382998466491699, + "covertype_test_recall": 0.746999979019165, + "covertype_test_f1-score": 0.7393279671669006, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.746999979019165 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6630855798721313, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7237237095832825, + "covertype_val_precision": 0.7146441340446472, + "covertype_val_recall": 0.7237237095832825, + "covertype_val_f1-score": 0.7082309126853943, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7237237095832825 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6610856652259827, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7045000195503235, + "covertype_test_precision": 0.6972243785858154, + "covertype_test_recall": 0.7045000195503235, + "covertype_test_f1-score": 0.6888396143913269, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7045000195503235 + }, + "5": { + "covertype_test_loss": 0.6415728330612183, + "covertype_test_accuracy": 0.7142105102539062, + "covertype_test_precision": 0.706780195236206, + "covertype_test_recall": 0.7142105102539062, + "covertype_test_f1-score": 0.7000634074211121, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7142105102539062 + }, + "10": { + "covertype_test_loss": 0.6258857846260071, + "covertype_test_accuracy": 0.7200000286102295, + "covertype_test_precision": 0.7127641439437866, + "covertype_test_recall": 0.7200000286102295, + "covertype_test_f1-score": 0.7061175107955933, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7200000286102295 + }, + "20": { + "covertype_test_loss": 0.6194067001342773, + "covertype_test_accuracy": 0.721875011920929, + "covertype_test_precision": 0.7172699570655823, + "covertype_test_recall": 0.721875011920929, + "covertype_test_f1-score": 0.707547128200531, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.721875011920929 + }, + "50": { + "covertype_test_loss": 0.589487612247467, + "covertype_test_accuracy": 0.718999981880188, + "covertype_test_precision": 0.7284277677536011, + "covertype_test_recall": 0.718999981880188, + "covertype_test_f1-score": 0.7015683650970459, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.718999981880188 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6782813668251038, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7147147059440613, + "covertype_val_precision": 0.7254244685173035, + "covertype_val_recall": 0.7147147059440613, + "covertype_val_f1-score": 0.7134101390838623, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7147147059440613 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6652005910873413, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.718500018119812, + "covertype_test_precision": 0.722741425037384, + "covertype_test_recall": 0.718500018119812, + "covertype_test_f1-score": 0.7155917882919312, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.718500018119812 + }, + "5": { + "covertype_test_loss": 0.6533002853393555, + "covertype_test_accuracy": 0.7205263376235962, + "covertype_test_precision": 0.7271701693534851, + "covertype_test_recall": 0.7205263376235962, + "covertype_test_f1-score": 0.7176215648651123, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7205263376235962 + }, + "10": { + "covertype_test_loss": 0.6403329968452454, + "covertype_test_accuracy": 0.7266666889190674, + "covertype_test_precision": 0.7313041090965271, + "covertype_test_recall": 0.7266666889190674, + "covertype_test_f1-score": 0.7228838205337524, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7266666889190674 + }, + "20": { + "covertype_test_loss": 0.626340389251709, + "covertype_test_accuracy": 0.7287499904632568, + "covertype_test_precision": 0.7325153946876526, + "covertype_test_recall": 0.7287499904632568, + "covertype_test_f1-score": 0.7254446744918823, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7287499904632568 + }, + "50": { + "covertype_test_loss": 0.5696327686309814, + "covertype_test_accuracy": 0.7519999742507935, + "covertype_test_precision": 0.7430410981178284, + "covertype_test_recall": 0.7519999742507935, + "covertype_test_f1-score": 0.7469294667243958, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7519999742507935 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6390300989151001, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7307307124137878, + "covertype_val_precision": 0.7221941351890564, + "covertype_val_recall": 0.7307307124137878, + "covertype_val_f1-score": 0.7205097079277039, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7307307124137878 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6431392431259155, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7204999923706055, + "covertype_test_precision": 0.7130550146102905, + "covertype_test_recall": 0.7204999923706055, + "covertype_test_f1-score": 0.7123908996582031, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7204999923706055 + }, + "5": { + "covertype_test_loss": 0.6270408630371094, + "covertype_test_accuracy": 0.7289473414421082, + "covertype_test_precision": 0.7217316627502441, + "covertype_test_recall": 0.7289473414421082, + "covertype_test_f1-score": 0.7222335934638977, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7289473414421082 + }, + "10": { + "covertype_test_loss": 0.6145398616790771, + "covertype_test_accuracy": 0.7327777743339539, + "covertype_test_precision": 0.7248891592025757, + "covertype_test_recall": 0.7327777743339539, + "covertype_test_f1-score": 0.7256214618682861, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7327777743339539 + }, + "20": { + "covertype_test_loss": 0.5961046814918518, + "covertype_test_accuracy": 0.7368749976158142, + "covertype_test_precision": 0.7298426032066345, + "covertype_test_recall": 0.7368749976158142, + "covertype_test_f1-score": 0.7304011583328247, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7368749976158142 + }, + "50": { + "covertype_test_loss": 0.5560329556465149, + "covertype_test_accuracy": 0.7480000257492065, + "covertype_test_precision": 0.7408463954925537, + "covertype_test_recall": 0.7480000257492065, + "covertype_test_f1-score": 0.7423136830329895, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7480000257492065 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.6509339809417725, + "std": 0.015928457899538558, + "n": 5, + "ci95": 0.01977462204819003 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7156000018119812, + "std": 0.006542164563334718, + "n": 5, + "ci95": 0.008121867944338414 + }, + "covertype_test_precision": { + "mean": 0.7102725982666016, + "std": 0.010159534170119146, + "n": 5, + "ci95": 0.012612705490190492 + }, + "covertype_test_recall": { + "mean": 0.7156000018119812, + "std": 0.006542164563334718, + "n": 5, + "ci95": 0.008121867944338414 + }, + "covertype_test_f1-score": { + "mean": 0.7061623811721802, + "std": 0.010520367863585104, + "n": 5, + "ci95": 0.013060667870198946 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7156000018119812, + "std": 0.006542164563334718, + "n": 5, + "ci95": 0.008121867944338414 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6322038650512696, + "std": 0.0168534344215438, + "n": 5, + "ci95": 0.020922947971607445 + }, + "covertype_test_accuracy": { + "mean": 0.7228421092033386, + "std": 0.006409396721276001, + "n": 5, + "ci95": 0.00795704132311597 + }, + "covertype_test_precision": { + "mean": 0.7179119825363159, + "std": 0.007862347933189427, + "n": 5, + "ci95": 0.009760829313846699 + }, + "covertype_test_recall": { + "mean": 0.7228421092033386, + "std": 0.006409396721276001, + "n": 5, + "ci95": 0.00795704132311597 + }, + "covertype_test_f1-score": { + "mean": 0.7146414995193482, + "std": 0.008526756930170647, + "n": 5, + "ci95": 0.010585669790155535 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7228421092033386, + "std": 0.006409396721276001, + "n": 5, + "ci95": 0.00795704132311597 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6191325902938842, + "std": 0.01620562645684199, + "n": 5, + "ci95": 0.02011871709485969 + }, + "covertype_test_accuracy": { + "mean": 0.728333342075348, + "std": 0.005692736271280376, + "n": 5, + "ci95": 0.007067332499767802 + }, + "covertype_test_precision": { + "mean": 0.7224093556404114, + "std": 0.007075702566366736, + "n": 5, + "ci95": 0.008784236669851378 + }, + "covertype_test_recall": { + "mean": 0.728333342075348, + "std": 0.005692736271280376, + "n": 5, + "ci95": 0.007067332499767802 + }, + "covertype_test_f1-score": { + "mean": 0.7199871897697449, + "std": 0.00794753082939274, + "n": 5, + "ci95": 0.009866580893065144 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.728333342075348, + "std": 0.005692736271280376, + "n": 5, + "ci95": 0.007067332499767802 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6047124981880188, + "std": 0.018396681462018626, + "n": 5, + "ci95": 0.02283883506782544 + }, + "covertype_test_accuracy": { + "mean": 0.7306249976158142, + "std": 0.006171372369035095, + "n": 5, + "ci95": 0.007661542434678971 + }, + "covertype_test_precision": { + "mean": 0.7258556962013245, + "std": 0.006094452417414278, + "n": 5, + "ci95": 0.007566049011470012 + }, + "covertype_test_recall": { + "mean": 0.7306249976158142, + "std": 0.006171372369035095, + "n": 5, + "ci95": 0.007661542434678971 + }, + "covertype_test_f1-score": { + "mean": 0.722791564464569, + "std": 0.008964717646381876, + "n": 5, + "ci95": 0.011129382664914275 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7306249976158142, + "std": 0.006171372369035095, + "n": 5, + "ci95": 0.007661542434678971 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5641225218772888, + "std": 0.01651059904777843, + "n": 5, + "ci95": 0.020497329874506122 + }, + "covertype_test_accuracy": { + "mean": 0.7423999905586243, + "std": 0.013277804700200957, + "n": 5, + "ci95": 0.016483929030176956 + }, + "covertype_test_precision": { + "mean": 0.7385585904121399, + "std": 0.005939832496976796, + "n": 5, + "ci95": 0.007374093801049988 + }, + "covertype_test_recall": { + "mean": 0.7423999905586243, + "std": 0.013277804700200957, + "n": 5, + "ci95": 0.016483929030176956 + }, + "covertype_test_f1-score": { + "mean": 0.7342374920845032, + "std": 0.01847889741741174, + "n": 5, + "ci95": 0.02294090329404568 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7423999905586243, + "std": 0.013277804700200957, + "n": 5, + "ci95": 0.016483929030176956 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..29b586e5ac62cc7a71f1befd09bf2fb5f0a7bfec --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpw1bionrv", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpw1bionrv/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5903664827346802, + "lr": 0.0, + "covertype_val_accuracy": 0.7647647857666016, + "covertype_val_precision": 0.7631762623786926, + "covertype_val_recall": 0.7647647857666016, + "covertype_val_f1-score": 0.7633711695671082, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7647647857666016 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5599042773246765, + "lr": 0.0, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.7748867273330688, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.7732600569725037, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7730000019073486 + }, + "5": { + "covertype_test_loss": 0.5372439026832581, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.782078206539154, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.779954195022583, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7799999713897705 + }, + "10": { + "covertype_test_loss": 0.5061768889427185, + "covertype_test_accuracy": 0.7877777814865112, + "covertype_test_precision": 0.7893257141113281, + "covertype_test_recall": 0.7877777814865112, + "covertype_test_f1-score": 0.7873893976211548, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7877777814865112 + }, + "20": { + "covertype_test_loss": 0.49839869141578674, + "covertype_test_accuracy": 0.7887499928474426, + "covertype_test_precision": 0.7902029156684875, + "covertype_test_recall": 0.7887499928474426, + "covertype_test_f1-score": 0.7887309193611145, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7887499928474426 + }, + "50": { + "covertype_test_loss": 0.47813260555267334, + "covertype_test_accuracy": 0.7730000019073486, + "covertype_test_precision": 0.7740298509597778, + "covertype_test_recall": 0.7730000019073486, + "covertype_test_f1-score": 0.772819995880127, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7730000019073486 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5981553792953491, + "lr": 0.0, + "covertype_val_accuracy": 0.7677677869796753, + "covertype_val_precision": 0.7638115286827087, + "covertype_val_recall": 0.7677677869796753, + "covertype_val_f1-score": 0.7637341022491455, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7677677869796753 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5687068104743958, + "lr": 0.0, + "covertype_test_accuracy": 0.7745000123977661, + "covertype_test_precision": 0.7770748138427734, + "covertype_test_recall": 0.7745000123977661, + "covertype_test_f1-score": 0.7746113538742065, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7745000123977661 + }, + "5": { + "covertype_test_loss": 0.5500249266624451, + "covertype_test_accuracy": 0.7831578850746155, + "covertype_test_precision": 0.7851213216781616, + "covertype_test_recall": 0.7831578850746155, + "covertype_test_f1-score": 0.7830218076705933, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7831578850746155 + }, + "10": { + "covertype_test_loss": 0.5251806378364563, + "covertype_test_accuracy": 0.7883333563804626, + "covertype_test_precision": 0.7902398109436035, + "covertype_test_recall": 0.7883333563804626, + "covertype_test_f1-score": 0.7880887389183044, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7883333563804626 + }, + "20": { + "covertype_test_loss": 0.5129566788673401, + "covertype_test_accuracy": 0.7912499904632568, + "covertype_test_precision": 0.7947077751159668, + "covertype_test_recall": 0.7912499904632568, + "covertype_test_f1-score": 0.7917947173118591, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7912499904632568 + }, + "50": { + "covertype_test_loss": 0.4750194251537323, + "covertype_test_accuracy": 0.7940000295639038, + "covertype_test_precision": 0.7973716259002686, + "covertype_test_recall": 0.7940000295639038, + "covertype_test_f1-score": 0.7934573888778687, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7940000295639038 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.5886359810829163, + "lr": 0.0, + "covertype_val_accuracy": 0.7537537813186646, + "covertype_val_precision": 0.750765323638916, + "covertype_val_recall": 0.7537537813186646, + "covertype_val_f1-score": 0.7484251856803894, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7537537813186646 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5610963106155396, + "lr": 0.0, + "covertype_test_accuracy": 0.7674999833106995, + "covertype_test_precision": 0.7692432999610901, + "covertype_test_recall": 0.7674999833106995, + "covertype_test_f1-score": 0.7660800814628601, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7674999833106995 + }, + "5": { + "covertype_test_loss": 0.5458694100379944, + "covertype_test_accuracy": 0.7726315855979919, + "covertype_test_precision": 0.7747190594673157, + "covertype_test_recall": 0.7726315855979919, + "covertype_test_f1-score": 0.7713699340820312, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7726315855979919 + }, + "10": { + "covertype_test_loss": 0.5257168412208557, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7814854979515076, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.778014600276947, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7799999713897705 + }, + "20": { + "covertype_test_loss": 0.5103298425674438, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7837669253349304, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7791097164154053, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7799999713897705 + }, + "50": { + "covertype_test_loss": 0.4950013756752014, + "covertype_test_accuracy": 0.7749999761581421, + "covertype_test_precision": 0.7777531147003174, + "covertype_test_recall": 0.7749999761581421, + "covertype_test_f1-score": 0.7747073769569397, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7749999761581421 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5545784831047058, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.770770788192749, + "covertype_val_precision": 0.766103208065033, + "covertype_val_recall": 0.770770788192749, + "covertype_val_f1-score": 0.7678835391998291, + "covertype_val_support": 999.0, + "covertype_val_score": 0.770770788192749 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5407398343086243, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7754999995231628, + "covertype_test_precision": 0.7753645181655884, + "covertype_test_recall": 0.7754999995231628, + "covertype_test_f1-score": 0.7731565833091736, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7754999995231628 + }, + "5": { + "covertype_test_loss": 0.5213901996612549, + "covertype_test_accuracy": 0.7821052670478821, + "covertype_test_precision": 0.7828673124313354, + "covertype_test_recall": 0.7821052670478821, + "covertype_test_f1-score": 0.7798998951911926, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7821052670478821 + }, + "10": { + "covertype_test_loss": 0.4943610429763794, + "covertype_test_accuracy": 0.7894444465637207, + "covertype_test_precision": 0.7894743084907532, + "covertype_test_recall": 0.7894444465637207, + "covertype_test_f1-score": 0.7868494987487793, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7894444465637207 + }, + "20": { + "covertype_test_loss": 0.4820103347301483, + "covertype_test_accuracy": 0.7925000190734863, + "covertype_test_precision": 0.7932695746421814, + "covertype_test_recall": 0.7925000190734863, + "covertype_test_f1-score": 0.7902936935424805, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7925000190734863 + }, + "50": { + "covertype_test_loss": 0.4482244551181793, + "covertype_test_accuracy": 0.7929999828338623, + "covertype_test_precision": 0.7954344153404236, + "covertype_test_recall": 0.7929999828338623, + "covertype_test_f1-score": 0.7915750741958618, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7929999828338623 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6079899668693542, + "lr": 0.0, + "covertype_val_accuracy": 0.7637637853622437, + "covertype_val_precision": 0.762414276599884, + "covertype_val_recall": 0.7637637853622437, + "covertype_val_f1-score": 0.7625483274459839, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7637637853622437 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5576541423797607, + "lr": 0.0, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7874076962471008, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7855868935585022, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7850000262260437 + }, + "5": { + "covertype_test_loss": 0.5242999196052551, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7930892109870911, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7906136512756348, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7900000214576721 + }, + "10": { + "covertype_test_loss": 0.5066612362861633, + "covertype_test_accuracy": 0.7955555319786072, + "covertype_test_precision": 0.7979449033737183, + "covertype_test_recall": 0.7955555319786072, + "covertype_test_f1-score": 0.7959539294242859, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7955555319786072 + }, + "20": { + "covertype_test_loss": 0.49418407678604126, + "covertype_test_accuracy": 0.8006250262260437, + "covertype_test_precision": 0.8011168241500854, + "covertype_test_recall": 0.8006250262260437, + "covertype_test_f1-score": 0.8005661964416504, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8006250262260437 + }, + "50": { + "covertype_test_loss": 0.4647396504878998, + "covertype_test_accuracy": 0.796999990940094, + "covertype_test_precision": 0.7983569502830505, + "covertype_test_recall": 0.796999990940094, + "covertype_test_f1-score": 0.7964413166046143, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.796999990940094 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5576202750205994, + "std": 0.010309718521607756, + "n": 5, + "ci95": 0.012799154097266624 + }, + "lr": { + "mean": 0.00010000001639127731, + "std": 0.00022360683440198926, + "n": 5, + "ci95": 0.00027760004550218576 + }, + "covertype_test_accuracy": { + "mean": 0.7751000046730041, + "std": 0.006338389970733792, + "n": 5, + "ci95": 0.007868888931735823 + }, + "covertype_test_precision": { + "mean": 0.7767954111099243, + "std": 0.006622378215233349, + "n": 5, + "ci95": 0.008221450380968798 + }, + "covertype_test_recall": { + "mean": 0.7751000046730041, + "std": 0.006338389970733792, + "n": 5, + "ci95": 0.007868888931735823 + }, + "covertype_test_f1-score": { + "mean": 0.7745389938354492, + "std": 0.007020706181637693, + "n": 5, + "ci95": 0.00871596058632259 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7751000046730041, + "std": 0.006338389970733792, + "n": 5, + "ci95": 0.007868888931735823 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5357656717300415, + "std": 0.012705458617868003, + "n": 5, + "ci95": 0.015773381434780145 + }, + "covertype_test_accuracy": { + "mean": 0.7815789461135865, + "std": 0.006249659856619599, + "n": 5, + "ci95": 0.007758733605842553 + }, + "covertype_test_precision": { + "mean": 0.7835750222206116, + "std": 0.006596973103524123, + "n": 5, + "ci95": 0.008189910825456864 + }, + "covertype_test_recall": { + "mean": 0.7815789461135865, + "std": 0.006249659856619599, + "n": 5, + "ci95": 0.007758733605842553 + }, + "covertype_test_f1-score": { + "mean": 0.7809718966484069, + "std": 0.0069200461765096715, + "n": 5, + "ci95": 0.008590994718984411 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7815789461135865, + "std": 0.006249659856619599, + "n": 5, + "ci95": 0.007758733605842553 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5116193294525146, + "std": 0.013552677058280069, + "n": 5, + "ci95": 0.016825173426011822 + }, + "covertype_test_accuracy": { + "mean": 0.7882222175598145, + "std": 0.00554721893033738, + "n": 5, + "ci95": 0.0068866778226638285 + }, + "covertype_test_precision": { + "mean": 0.7896940469741821, + "std": 0.0058296380846647395, + "n": 5, + "ci95": 0.007237291301458583 + }, + "covertype_test_recall": { + "mean": 0.7882222175598145, + "std": 0.00554721893033738, + "n": 5, + "ci95": 0.0068866778226638285 + }, + "covertype_test_f1-score": { + "mean": 0.7872592329978942, + "std": 0.006362662279823549, + "n": 5, + "ci95": 0.00789902215251049 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7882222175598145, + "std": 0.00554721893033738, + "n": 5, + "ci95": 0.0068866778226638285 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.49957592487335206, + "std": 0.012586691232291669, + "n": 5, + "ci95": 0.015625935889440085 + }, + "covertype_test_accuracy": { + "mean": 0.790625, + "std": 0.0074214843346361295, + "n": 5, + "ci95": 0.009213512612432119 + }, + "covertype_test_precision": { + "mean": 0.7926128029823303, + "std": 0.0063481442464257565, + "n": 5, + "ci95": 0.0078809985230333 + }, + "covertype_test_recall": { + "mean": 0.790625, + "std": 0.0074214843346361295, + "n": 5, + "ci95": 0.009213512612432119 + }, + "covertype_test_f1-score": { + "mean": 0.790099048614502, + "std": 0.0076666740254598105, + "n": 5, + "ci95": 0.009517907017510801 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.790625, + "std": 0.0074214843346361295, + "n": 5, + "ci95": 0.009213512612432119 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.47222350239753724, + "std": 0.017273740944944566, + "n": 5, + "ci95": 0.021444743784928433 + }, + "covertype_test_accuracy": { + "mean": 0.7863999962806701, + "std": 0.011436788482649791, + "n": 5, + "ci95": 0.01419837194007614 + }, + "covertype_test_precision": { + "mean": 0.7885891914367675, + "std": 0.011713158331969663, + "n": 5, + "ci95": 0.014541475418786028 + }, + "covertype_test_recall": { + "mean": 0.7863999962806701, + "std": 0.011436788482649791, + "n": 5, + "ci95": 0.01419837194007614 + }, + "covertype_test_f1-score": { + "mean": 0.7858002305030822, + "std": 0.01114396134837103, + "n": 5, + "ci95": 0.013834837319063969 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7863999962806701, + "std": 0.011436788482649791, + "n": 5, + "ci95": 0.01419837194007614 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..0e5adf6b72114bf9b79e1ee93512106e566afbe7 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:133d4bf0fd963d9f4070120349e88a917aa0852077d55b7ec5a5fc8d7d2b884a +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..d7c4c3f22c3e07442ed4bc49ba8f887c1d72701f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:dab4e5319b37174e11887f9d7b2552daee20c39592bcffdcedf18ac3826b0dfc +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..979279f95f2653748a1cf13f9022b2520fceae75 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ecadb2c0b2e7e0c20785871bf6655e1a72bcbc45f42b74b32b8e3b20cfd7fb56 +size 11498832 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..e54c9c7a56696ec7e3927e83eee932cfa0e273aa --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.0005_z0.0005_sy0.0005/seed_42/wjepa_joint/covertype/20260905_185927/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.0005 +sw_s_y_weight: 0.0005 +sw_seed: 0 +sw_z_weight: 0.0005 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..7e83f64fbd4a9a6fc5ec2c811974c2d344b7516f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T19:24:28.059320+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.001, + "sw_z_weight": 0.001, + "sw_s_y_weight": 0.001, + "lambda_joint": 0.001, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..bf60b4c68bde215c75b2b014e03a8f5c73395dfb --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.001, + "sw_z_weight": 0.001, + "sw_s_y_weight": 0.001, + "lambda_joint": 0.001, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.001", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.001", + "--sw-z-end-weight", + "0.001", + "--sw-s-y-end-weight", + "0.001", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..e6f34dcb4d19ee1633ca03fb2155e895813a8211 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001, + "s_x": 0.001, + "z": 0.001, + "s_y": 0.001 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.001", + "--sw_z_weight", + "0.001", + "--sw_s_y_weight", + "0.001", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..078c5c17688028076db00ad83ae82c198db6fd07 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp8l2btpmt", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp8l2btpmt/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6448313593864441, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.728728711605072, + "covertype_val_precision": 0.7161693572998047, + "covertype_val_recall": 0.728728711605072, + "covertype_val_f1-score": 0.7203840613365173, + "covertype_val_support": 999.0, + "covertype_val_score": 0.728728711605072 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6374319791793823, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7225000262260437, + "covertype_test_precision": 0.7117365598678589, + "covertype_test_recall": 0.7225000262260437, + "covertype_test_f1-score": 0.7142804861068726, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7225000262260437 + }, + "5": { + "covertype_test_loss": 0.6218268275260925, + "covertype_test_accuracy": 0.7284210324287415, + "covertype_test_precision": 0.7176992297172546, + "covertype_test_recall": 0.7284210324287415, + "covertype_test_f1-score": 0.7209601998329163, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7284210324287415 + }, + "10": { + "covertype_test_loss": 0.6092486381530762, + "covertype_test_accuracy": 0.7333333492279053, + "covertype_test_precision": 0.7209653854370117, + "covertype_test_recall": 0.7333333492279053, + "covertype_test_f1-score": 0.724907636642456, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7333333492279053 + }, + "20": { + "covertype_test_loss": 0.5900776386260986, + "covertype_test_accuracy": 0.7393749952316284, + "covertype_test_precision": 0.7268891334533691, + "covertype_test_recall": 0.7393749952316284, + "covertype_test_f1-score": 0.7309626936912537, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7393749952316284 + }, + "50": { + "covertype_test_loss": 0.5575570464134216, + "covertype_test_accuracy": 0.7459999918937683, + "covertype_test_precision": 0.7384130358695984, + "covertype_test_recall": 0.7459999918937683, + "covertype_test_f1-score": 0.7349809408187866, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7459999918937683 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6842122077941895, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7087087035179138, + "covertype_val_precision": 0.6960554718971252, + "covertype_val_recall": 0.7087087035179138, + "covertype_val_f1-score": 0.6959025263786316, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7087087035179138 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.675231397151947, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6974999904632568, + "covertype_test_precision": 0.6871722340583801, + "covertype_test_recall": 0.6974999904632568, + "covertype_test_f1-score": 0.6865983009338379, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6974999904632568 + }, + "5": { + "covertype_test_loss": 0.6576403379440308, + "covertype_test_accuracy": 0.7084210515022278, + "covertype_test_precision": 0.704483687877655, + "covertype_test_recall": 0.7084210515022278, + "covertype_test_f1-score": 0.7000018358230591, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7084210515022278 + }, + "10": { + "covertype_test_loss": 0.6468484401702881, + "covertype_test_accuracy": 0.7133333086967468, + "covertype_test_precision": 0.7072450518608093, + "covertype_test_recall": 0.7133333086967468, + "covertype_test_f1-score": 0.7041093707084656, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7133333086967468 + }, + "20": { + "covertype_test_loss": 0.6165725588798523, + "covertype_test_accuracy": 0.71875, + "covertype_test_precision": 0.7199168801307678, + "covertype_test_recall": 0.71875, + "covertype_test_f1-score": 0.7117542028427124, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.71875 + }, + "50": { + "covertype_test_loss": 0.5712741017341614, + "covertype_test_accuracy": 0.7310000061988831, + "covertype_test_precision": 0.7303847670555115, + "covertype_test_recall": 0.7310000061988831, + "covertype_test_f1-score": 0.7255824208259583, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7310000061988831 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.7058191299438477, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.706706702709198, + "covertype_val_precision": 0.7057024240493774, + "covertype_val_recall": 0.706706702709198, + "covertype_val_f1-score": 0.6997954249382019, + "covertype_val_support": 999.0, + "covertype_val_score": 0.706706702709198 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6845086216926575, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7070000171661377, + "covertype_test_precision": 0.7036290764808655, + "covertype_test_recall": 0.7070000171661377, + "covertype_test_f1-score": 0.699508011341095, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7070000171661377 + }, + "5": { + "covertype_test_loss": 0.6705989241600037, + "covertype_test_accuracy": 0.7157894968986511, + "covertype_test_precision": 0.7165015339851379, + "covertype_test_recall": 0.7157894968986511, + "covertype_test_f1-score": 0.708786129951477, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7157894968986511 + }, + "10": { + "covertype_test_loss": 0.6630923748016357, + "covertype_test_accuracy": 0.721666693687439, + "covertype_test_precision": 0.717997670173645, + "covertype_test_recall": 0.721666693687439, + "covertype_test_f1-score": 0.7133563756942749, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.721666693687439 + }, + "20": { + "covertype_test_loss": 0.6211788058280945, + "covertype_test_accuracy": 0.7268750071525574, + "covertype_test_precision": 0.7273310422897339, + "covertype_test_recall": 0.7268750071525574, + "covertype_test_f1-score": 0.7201876044273376, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7268750071525574 + }, + "50": { + "covertype_test_loss": 0.5737671256065369, + "covertype_test_accuracy": 0.746999979019165, + "covertype_test_precision": 0.7436991333961487, + "covertype_test_recall": 0.746999979019165, + "covertype_test_f1-score": 0.7414719462394714, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.746999979019165 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6621236205101013, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7147147059440613, + "covertype_val_precision": 0.7101366519927979, + "covertype_val_recall": 0.7147147059440613, + "covertype_val_f1-score": 0.6948588490486145, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7147147059440613 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.666415810585022, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7120000123977661, + "covertype_test_precision": 0.7078574895858765, + "covertype_test_recall": 0.7120000123977661, + "covertype_test_f1-score": 0.6950525045394897, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7120000123977661 + }, + "5": { + "covertype_test_loss": 0.6495289206504822, + "covertype_test_accuracy": 0.7184210419654846, + "covertype_test_precision": 0.7155666947364807, + "covertype_test_recall": 0.7184210419654846, + "covertype_test_f1-score": 0.7034016251564026, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7184210419654846 + }, + "10": { + "covertype_test_loss": 0.6350806951522827, + "covertype_test_accuracy": 0.7238888740539551, + "covertype_test_precision": 0.7215996384620667, + "covertype_test_recall": 0.7238888740539551, + "covertype_test_f1-score": 0.7089424729347229, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7238888740539551 + }, + "20": { + "covertype_test_loss": 0.6210468411445618, + "covertype_test_accuracy": 0.7281249761581421, + "covertype_test_precision": 0.7278042435646057, + "covertype_test_recall": 0.7281249761581421, + "covertype_test_f1-score": 0.7121289968490601, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7281249761581421 + }, + "50": { + "covertype_test_loss": 0.5995761752128601, + "covertype_test_accuracy": 0.7269999980926514, + "covertype_test_precision": 0.734817624092102, + "covertype_test_recall": 0.7269999980926514, + "covertype_test_f1-score": 0.7090979218482971, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7269999980926514 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6713742613792419, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7147147059440613, + "covertype_val_precision": 0.7320546507835388, + "covertype_val_recall": 0.7147147059440613, + "covertype_val_f1-score": 0.6983848214149475, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7147147059440613 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6674256920814514, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7080000042915344, + "covertype_test_precision": 0.7225430607795715, + "covertype_test_recall": 0.7080000042915344, + "covertype_test_f1-score": 0.6917421221733093, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7080000042915344 + }, + "5": { + "covertype_test_loss": 0.655375063419342, + "covertype_test_accuracy": 0.7152631282806396, + "covertype_test_precision": 0.7262004613876343, + "covertype_test_recall": 0.7152631282806396, + "covertype_test_f1-score": 0.7030286192893982, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7152631282806396 + }, + "10": { + "covertype_test_loss": 0.6443851590156555, + "covertype_test_accuracy": 0.7211111187934875, + "covertype_test_precision": 0.7136431932449341, + "covertype_test_recall": 0.7211111187934875, + "covertype_test_f1-score": 0.7111063003540039, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7211111187934875 + }, + "20": { + "covertype_test_loss": 0.6251763105392456, + "covertype_test_accuracy": 0.7275000214576721, + "covertype_test_precision": 0.7262293100357056, + "covertype_test_recall": 0.7275000214576721, + "covertype_test_f1-score": 0.7199536561965942, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7275000214576721 + }, + "50": { + "covertype_test_loss": 0.5878036022186279, + "covertype_test_accuracy": 0.7400000095367432, + "covertype_test_precision": 0.7387144565582275, + "covertype_test_recall": 0.7400000095367432, + "covertype_test_f1-score": 0.7343481779098511, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7400000095367432 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.666202700138092, + "std": 0.0176487934684637, + "n": 5, + "ci95": 0.021910358343951483 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.7094000101089477, + "std": 0.009051255218921203, + "n": 5, + "ci95": 0.011236816027310432 + }, + "covertype_test_precision": { + "mean": 0.7065876841545105, + "std": 0.012926817396351464, + "n": 5, + "ci95": 0.016048190597673827 + }, + "covertype_test_recall": { + "mean": 0.7094000101089477, + "std": 0.009051255218921203, + "n": 5, + "ci95": 0.011236816027310432 + }, + "covertype_test_f1-score": { + "mean": 0.6974362850189209, + "std": 0.010530752099925171, + "n": 5, + "ci95": 0.013073559535555319 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7094000101089477, + "std": 0.009051255218921203, + "n": 5, + "ci95": 0.011236816027310432 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6509940147399902, + "std": 0.01803185364633943, + "n": 5, + "ci95": 0.02238591412511875 + }, + "covertype_test_accuracy": { + "mean": 0.717263150215149, + "std": 0.007249025801490241, + "n": 5, + "ci95": 0.008999411389736606 + }, + "covertype_test_precision": { + "mean": 0.7160903215408325, + "std": 0.0077453330938352626, + "n": 5, + "ci95": 0.009615559493199132 + }, + "covertype_test_recall": { + "mean": 0.717263150215149, + "std": 0.007249025801490241, + "n": 5, + "ci95": 0.008999411389736606 + }, + "covertype_test_f1-score": { + "mean": 0.7072356820106507, + "std": 0.008299008640174904, + "n": 5, + "ci95": 0.010302928272728551 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.717263150215149, + "std": 0.007249025801490241, + "n": 5, + "ci95": 0.008999411389736606 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6397310614585876, + "std": 0.019804498871896215, + "n": 5, + "ci95": 0.024586591025669773 + }, + "covertype_test_accuracy": { + "mean": 0.7226666688919068, + "std": 0.007172920498293447, + "n": 5, + "ci95": 0.008904929323985402 + }, + "covertype_test_precision": { + "mean": 0.7162901878356933, + "std": 0.005953660631647888, + "n": 5, + "ci95": 0.007391260945445068 + }, + "covertype_test_recall": { + "mean": 0.7226666688919068, + "std": 0.007172920498293447, + "n": 5, + "ci95": 0.008904929323985402 + }, + "covertype_test_f1-score": { + "mean": 0.7124844312667846, + "std": 0.007740844138158925, + "n": 5, + "ci95": 0.00960998661210477 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7226666688919068, + "std": 0.007172920498293447, + "n": 5, + "ci95": 0.008904929323985402 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6148104310035706, + "std": 0.014157300072223494, + "n": 5, + "ci95": 0.01757579170040957 + }, + "covertype_test_accuracy": { + "mean": 0.728125, + "std": 0.007355373851974803, + "n": 5, + "ci95": 0.009131438765968364 + }, + "covertype_test_precision": { + "mean": 0.7256341218948364, + "std": 0.0032482735111176156, + "n": 5, + "ci95": 0.004032617683181927 + }, + "covertype_test_recall": { + "mean": 0.728125, + "std": 0.007355373851974803, + "n": 5, + "ci95": 0.009131438765968364 + }, + "covertype_test_f1-score": { + "mean": 0.7189974308013916, + "std": 0.007828443850931852, + "n": 5, + "ci95": 0.00971873858436348 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.728125, + "std": 0.007355373851974803, + "n": 5, + "ci95": 0.009131438765968364 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.5779956102371215, + "std": 0.016145519048510634, + "n": 5, + "ci95": 0.020044095854715456 + }, + "covertype_test_accuracy": { + "mean": 0.7381999969482422, + "std": 0.008927478536429693, + "n": 5, + "ci95": 0.011083151615470578 + }, + "covertype_test_precision": { + "mean": 0.7372058033943176, + "std": 0.004952946502988703, + "n": 5, + "ci95": 0.006148909438643367 + }, + "covertype_test_recall": { + "mean": 0.7381999969482422, + "std": 0.008927478536429693, + "n": 5, + "ci95": 0.011083151615470578 + }, + "covertype_test_f1-score": { + "mean": 0.729096281528473, + "std": 0.01252647510811821, + "n": 5, + "ci95": 0.015551179682389336 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7381999969482422, + "std": 0.008927478536429693, + "n": 5, + "ci95": 0.011083151615470578 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..b22527bcdb5cc56f77d4bbcabe0159b5a7a42165 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmp52jen1e6", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmp52jen1e6/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.5865015983581543, + "lr": 0.0, + "covertype_val_accuracy": 0.7677677869796753, + "covertype_val_precision": 0.763765275478363, + "covertype_val_recall": 0.7677677869796753, + "covertype_val_f1-score": 0.7647961378097534, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7677677869796753 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5639856457710266, + "lr": 0.0, + "covertype_test_accuracy": 0.781000018119812, + "covertype_test_precision": 0.7807004451751709, + "covertype_test_recall": 0.781000018119812, + "covertype_test_f1-score": 0.7797252535820007, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.781000018119812 + }, + "5": { + "covertype_test_loss": 0.5354265570640564, + "covertype_test_accuracy": 0.788947343826294, + "covertype_test_precision": 0.7902141213417053, + "covertype_test_recall": 0.788947343826294, + "covertype_test_f1-score": 0.7881530523300171, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.788947343826294 + }, + "10": { + "covertype_test_loss": 0.5223501324653625, + "covertype_test_accuracy": 0.7938888669013977, + "covertype_test_precision": 0.7940731644630432, + "covertype_test_recall": 0.7938888669013977, + "covertype_test_f1-score": 0.7924919724464417, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7938888669013977 + }, + "20": { + "covertype_test_loss": 0.5005799531936646, + "covertype_test_accuracy": 0.800000011920929, + "covertype_test_precision": 0.7995424270629883, + "covertype_test_recall": 0.800000011920929, + "covertype_test_f1-score": 0.798980176448822, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.800000011920929 + }, + "50": { + "covertype_test_loss": 0.46361979842185974, + "covertype_test_accuracy": 0.7870000004768372, + "covertype_test_precision": 0.7873862385749817, + "covertype_test_recall": 0.7870000004768372, + "covertype_test_f1-score": 0.7841361165046692, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7870000004768372 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.5772416591644287, + "lr": 0.0, + "covertype_val_accuracy": 0.7617617845535278, + "covertype_val_precision": 0.7515028715133667, + "covertype_val_recall": 0.7617617845535278, + "covertype_val_f1-score": 0.7530993819236755, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7617617845535278 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5607463717460632, + "lr": 0.0, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7881280183792114, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7842532992362976, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7860000133514404 + }, + "5": { + "covertype_test_loss": 0.5370383262634277, + "covertype_test_accuracy": 0.7921052575111389, + "covertype_test_precision": 0.7951522469520569, + "covertype_test_recall": 0.7921052575111389, + "covertype_test_f1-score": 0.7912611365318298, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7921052575111389 + }, + "10": { + "covertype_test_loss": 0.5280420780181885, + "covertype_test_accuracy": 0.7911111116409302, + "covertype_test_precision": 0.7935380935668945, + "covertype_test_recall": 0.7911111116409302, + "covertype_test_f1-score": 0.7900664210319519, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7911111116409302 + }, + "20": { + "covertype_test_loss": 0.505263090133667, + "covertype_test_accuracy": 0.7956249713897705, + "covertype_test_precision": 0.7998631000518799, + "covertype_test_recall": 0.7956249713897705, + "covertype_test_f1-score": 0.7957220673561096, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7956249713897705 + }, + "50": { + "covertype_test_loss": 0.46857795119285583, + "covertype_test_accuracy": 0.7879999876022339, + "covertype_test_precision": 0.7920857071876526, + "covertype_test_recall": 0.7879999876022339, + "covertype_test_f1-score": 0.7875694036483765, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7879999876022339 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6104655861854553, + "lr": 0.0, + "covertype_val_accuracy": 0.759759783744812, + "covertype_val_precision": 0.754295825958252, + "covertype_val_recall": 0.759759783744812, + "covertype_val_f1-score": 0.752337634563446, + "covertype_val_support": 999.0, + "covertype_val_score": 0.759759783744812 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5904465317726135, + "lr": 0.0, + "covertype_test_accuracy": 0.7720000147819519, + "covertype_test_precision": 0.7774711847305298, + "covertype_test_recall": 0.7720000147819519, + "covertype_test_f1-score": 0.7705081105232239, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7720000147819519 + }, + "5": { + "covertype_test_loss": 0.5684112906455994, + "covertype_test_accuracy": 0.7778947353363037, + "covertype_test_precision": 0.7859103679656982, + "covertype_test_recall": 0.7778947353363037, + "covertype_test_f1-score": 0.7769928574562073, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7778947353363037 + }, + "10": { + "covertype_test_loss": 0.5532357692718506, + "covertype_test_accuracy": 0.7833333611488342, + "covertype_test_precision": 0.7899986505508423, + "covertype_test_recall": 0.7833333611488342, + "covertype_test_f1-score": 0.7817893028259277, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7833333611488342 + }, + "20": { + "covertype_test_loss": 0.5203743577003479, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7979426980018616, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7897539138793945, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7900000214576721 + }, + "50": { + "covertype_test_loss": 0.48729225993156433, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7881286144256592, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7787919044494629, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7799999713897705 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.5798202753067017, + "lr": 0.0, + "covertype_val_accuracy": 0.7717717885971069, + "covertype_val_precision": 0.7671592831611633, + "covertype_val_recall": 0.7717717885971069, + "covertype_val_f1-score": 0.7686609625816345, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7717717885971069 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5692936182022095, + "lr": 0.0, + "covertype_test_accuracy": 0.7799999713897705, + "covertype_test_precision": 0.7809996008872986, + "covertype_test_recall": 0.7799999713897705, + "covertype_test_f1-score": 0.7797437906265259, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7799999713897705 + }, + "5": { + "covertype_test_loss": 0.5413971543312073, + "covertype_test_accuracy": 0.7873684167861938, + "covertype_test_precision": 0.787551760673523, + "covertype_test_recall": 0.7873684167861938, + "covertype_test_f1-score": 0.7870414853096008, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7873684167861938 + }, + "10": { + "covertype_test_loss": 0.5307827591896057, + "covertype_test_accuracy": 0.7944444417953491, + "covertype_test_precision": 0.7930327653884888, + "covertype_test_recall": 0.7944444417953491, + "covertype_test_f1-score": 0.7933403849601746, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7944444417953491 + }, + "20": { + "covertype_test_loss": 0.5012502670288086, + "covertype_test_accuracy": 0.8068749904632568, + "covertype_test_precision": 0.8075636625289917, + "covertype_test_recall": 0.8068749904632568, + "covertype_test_f1-score": 0.8068333268165588, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8068749904632568 + }, + "50": { + "covertype_test_loss": 0.45998403429985046, + "covertype_test_accuracy": 0.8109999895095825, + "covertype_test_precision": 0.8091707825660706, + "covertype_test_recall": 0.8109999895095825, + "covertype_test_f1-score": 0.809856116771698, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8109999895095825 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5896940231323242, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7797797918319702, + "covertype_val_precision": 0.7733986973762512, + "covertype_val_recall": 0.7797797918319702, + "covertype_val_f1-score": 0.7753291726112366, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7797797918319702 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5629196763038635, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.784500002861023, + "covertype_test_precision": 0.784295380115509, + "covertype_test_recall": 0.784500002861023, + "covertype_test_f1-score": 0.7827712297439575, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.784500002861023 + }, + "5": { + "covertype_test_loss": 0.542397677898407, + "covertype_test_accuracy": 0.7905263304710388, + "covertype_test_precision": 0.7905009388923645, + "covertype_test_recall": 0.7905263304710388, + "covertype_test_f1-score": 0.7893462777137756, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7905263304710388 + }, + "10": { + "covertype_test_loss": 0.5325919389724731, + "covertype_test_accuracy": 0.7938888669013977, + "covertype_test_precision": 0.7940199971199036, + "covertype_test_recall": 0.7938888669013977, + "covertype_test_f1-score": 0.7927963733673096, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7938888669013977 + }, + "20": { + "covertype_test_loss": 0.5054011344909668, + "covertype_test_accuracy": 0.8031250238418579, + "covertype_test_precision": 0.8050361275672913, + "covertype_test_recall": 0.8031250238418579, + "covertype_test_f1-score": 0.8031833171844482, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8031250238418579 + }, + "50": { + "covertype_test_loss": 0.46058031916618347, + "covertype_test_accuracy": 0.8059999942779541, + "covertype_test_precision": 0.8076003193855286, + "covertype_test_recall": 0.8059999942779541, + "covertype_test_f1-score": 0.8045588135719299, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8059999942779541 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5694783687591553, + "std": 0.012136023002937544, + "n": 5, + "ci95": 0.015066447082625771 + }, + "lr": { + "mean": 0.00020000003278255462, + "std": 0.0004472136688039785, + "n": 5, + "ci95": 0.0005552000910043715 + }, + "covertype_test_accuracy": { + "mean": 0.7807000041007995, + "std": 0.005449769650883331, + "n": 5, + "ci95": 0.006765697958685403 + }, + "covertype_test_precision": { + "mean": 0.7823189258575439, + "std": 0.004046993312633267, + "n": 5, + "ci95": 0.005024200314532256 + }, + "covertype_test_recall": { + "mean": 0.7807000041007995, + "std": 0.005449769650883331, + "n": 5, + "ci95": 0.006765697958685403 + }, + "covertype_test_f1-score": { + "mean": 0.7794003367424012, + "std": 0.005343439511478232, + "n": 5, + "ci95": 0.006633692818430859 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7807000041007995, + "std": 0.005449769650883331, + "n": 5, + "ci95": 0.006765697958685403 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5449342012405396, + "std": 0.013443014151204769, + "n": 5, + "ci95": 0.016689030771537865 + }, + "covertype_test_accuracy": { + "mean": 0.7873684167861938, + "std": 0.005582421734927884, + "n": 5, + "ci95": 0.006930380870391611 + }, + "covertype_test_precision": { + "mean": 0.7898658871650696, + "std": 0.0035167979431247926, + "n": 5, + "ci95": 0.004365981351349745 + }, + "covertype_test_recall": { + "mean": 0.7873684167861938, + "std": 0.005582421734927884, + "n": 5, + "ci95": 0.006930380870391611 + }, + "covertype_test_f1-score": { + "mean": 0.7865589618682861, + "std": 0.005571442431798599, + "n": 5, + "ci95": 0.006916750450478808 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7873684167861938, + "std": 0.005582421734927884, + "n": 5, + "ci95": 0.006930380870391611 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5334005355834961, + "std": 0.011744866471695821, + "n": 5, + "ci95": 0.014580839962603804 + }, + "covertype_test_accuracy": { + "mean": 0.7913333296775817, + "std": 0.004658042424954419, + "n": 5, + "ci95": 0.005782796364774058 + }, + "covertype_test_precision": { + "mean": 0.7929325342178345, + "std": 0.001693224343073724, + "n": 5, + "ci95": 0.0021020786593564547 + }, + "covertype_test_recall": { + "mean": 0.7913333296775817, + "std": 0.004658042424954419, + "n": 5, + "ci95": 0.005782796364774058 + }, + "covertype_test_f1-score": { + "mean": 0.790096890926361, + "std": 0.00481042677278044, + "n": 5, + "ci95": 0.005971976190173653 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7913333296775817, + "std": 0.004658042424954419, + "n": 5, + "ci95": 0.005782796364774058 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.506573760509491, + "std": 0.00802830462202003, + "n": 5, + "ci95": 0.00996685872477224 + }, + "covertype_test_accuracy": { + "mean": 0.7991250038146973, + "std": 0.0065639854975477335, + "n": 5, + "ci95": 0.008148957869146095 + }, + "covertype_test_precision": { + "mean": 0.8019896030426026, + "std": 0.004099987088115732, + "n": 5, + "ci95": 0.005089990228890678 + }, + "covertype_test_recall": { + "mean": 0.7991250038146973, + "std": 0.0065639854975477335, + "n": 5, + "ci95": 0.008148957869146095 + }, + "covertype_test_f1-score": { + "mean": 0.7988945603370666, + "std": 0.0066151513211875745, + "n": 5, + "ci95": 0.008212478445377867 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7991250038146973, + "std": 0.0065639854975477335, + "n": 5, + "ci95": 0.008148957869146095 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.46801087260246277, + "std": 0.011302856557390316, + "n": 5, + "ci95": 0.014032100150371419 + }, + "covertype_test_accuracy": { + "mean": 0.7943999886512756, + "std": 0.013352906936094214, + "n": 5, + "ci95": 0.016577165823037247 + }, + "covertype_test_precision": { + "mean": 0.7968743324279786, + "std": 0.010673470876942663, + "n": 5, + "ci95": 0.013250739893660329 + }, + "covertype_test_recall": { + "mean": 0.7943999886512756, + "std": 0.013352906936094214, + "n": 5, + "ci95": 0.016577165823037247 + }, + "covertype_test_f1-score": { + "mean": 0.7929824709892273, + "std": 0.013487615560273376, + "n": 5, + "ci95": 0.016744401857220554 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7943999886512756, + "std": 0.013352906936094214, + "n": 5, + "ci95": 0.016577165823037247 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..93a04b5a385962d8d74a1eed622906f557855b77 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1fb10cd9eaa809951001bd77f3a821b33f98bf2d608224461ed6183fc3037804 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..b9915e82a90b9a51b036d728dc4847100ec36923 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:59758abbbcb2016be1c721c2f924d9454c10937add3bbc2bef34796dc8ea1224 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..e730f45a68a6b33784a5e417b620af28a6bbdc1f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:02e73e9828f551154b791ad68672fab6877f875089ede91edb38293d33e8f4cc +size 11493776 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..a6584e64a8c18b0a287974cdb27bd316812e2ca5 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.001_z0.001_sy0.001/seed_42/wjepa_joint/covertype/20260905_190418/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.001 +sw_s_y_weight: 0.001 +sw_seed: 0 +sw_z_weight: 0.001 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..5bc44828c7b771375715a628aa9ad349b614576e --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T19:36:04.854218+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.002, + "sw_z_weight": 0.002, + "sw_s_y_weight": 0.002, + "lambda_joint": 0.001, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..7189f1b05c77777c65d7f749f5f3e66994c91bba --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.002, + "sw_z_weight": 0.002, + "sw_s_y_weight": 0.002, + "lambda_joint": 0.001, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.001", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.002", + "--sw-z-end-weight", + "0.002", + "--sw-s-y-end-weight", + "0.002", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..0f3bdeacadd8423ae414337168e3b8050634ef3f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001, + "s_x": 0.002, + "z": 0.002, + "s_y": 0.002 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.002", + "--sw_z_weight", + "0.002", + "--sw_s_y_weight", + "0.002", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..ed8295d29d0bd19e6eab975718cba27f8a00d4c3 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpydeu4__7", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpydeu4__7/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.8979061245918274, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6126126050949097, + "covertype_val_precision": 0.6945309638977051, + "covertype_val_recall": 0.6126126050949097, + "covertype_val_f1-score": 0.5885069370269775, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6126126050949097 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.8962158560752869, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6069999933242798, + "covertype_test_precision": 0.6867981553077698, + "covertype_test_recall": 0.6069999933242798, + "covertype_test_f1-score": 0.5791609883308411, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6069999933242798 + }, + "5": { + "covertype_test_loss": 0.8793933987617493, + "covertype_test_accuracy": 0.6115789413452148, + "covertype_test_precision": 0.6953980326652527, + "covertype_test_recall": 0.6115789413452148, + "covertype_test_f1-score": 0.5876296758651733, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6115789413452148 + }, + "10": { + "covertype_test_loss": 0.8669410943984985, + "covertype_test_accuracy": 0.621666669845581, + "covertype_test_precision": 0.702126145362854, + "covertype_test_recall": 0.621666669845581, + "covertype_test_f1-score": 0.5988878011703491, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.621666669845581 + }, + "20": { + "covertype_test_loss": 0.8462085127830505, + "covertype_test_accuracy": 0.6287500262260437, + "covertype_test_precision": 0.7080649137496948, + "covertype_test_recall": 0.6287500262260437, + "covertype_test_f1-score": 0.6030874848365784, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6287500262260437 + }, + "50": { + "covertype_test_loss": 0.7774034738540649, + "covertype_test_accuracy": 0.628000020980835, + "covertype_test_precision": 0.7152299880981445, + "covertype_test_recall": 0.628000020980835, + "covertype_test_f1-score": 0.5999670028686523, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.628000020980835 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6302409768104553, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7357357144355774, + "covertype_val_precision": 0.7242634892463684, + "covertype_val_recall": 0.7357357144355774, + "covertype_val_f1-score": 0.7202068567276001, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7357357144355774 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6276803016662598, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7264999747276306, + "covertype_test_precision": 0.7309870719909668, + "covertype_test_recall": 0.7264999747276306, + "covertype_test_f1-score": 0.7111830115318298, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7264999747276306 + }, + "5": { + "covertype_test_loss": 0.6011919379234314, + "covertype_test_accuracy": 0.7357894778251648, + "covertype_test_precision": 0.7391487956047058, + "covertype_test_recall": 0.7357894778251648, + "covertype_test_f1-score": 0.723422110080719, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7357894778251648 + }, + "10": { + "covertype_test_loss": 0.5943201780319214, + "covertype_test_accuracy": 0.7383333444595337, + "covertype_test_precision": 0.741452693939209, + "covertype_test_recall": 0.7383333444595337, + "covertype_test_f1-score": 0.72762531042099, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7383333444595337 + }, + "20": { + "covertype_test_loss": 0.580157458782196, + "covertype_test_accuracy": 0.7418749928474426, + "covertype_test_precision": 0.7488570809364319, + "covertype_test_recall": 0.7418749928474426, + "covertype_test_f1-score": 0.7326444387435913, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7418749928474426 + }, + "50": { + "covertype_test_loss": 0.5441228151321411, + "covertype_test_accuracy": 0.75, + "covertype_test_precision": 0.7604990601539612, + "covertype_test_recall": 0.75, + "covertype_test_f1-score": 0.7402823567390442, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.75 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6461556553840637, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7117117047309875, + "covertype_val_precision": 0.7100619673728943, + "covertype_val_recall": 0.7117117047309875, + "covertype_val_f1-score": 0.7070670127868652, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7117117047309875 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6449625492095947, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7129999995231628, + "covertype_test_precision": 0.7069469094276428, + "covertype_test_recall": 0.7129999995231628, + "covertype_test_f1-score": 0.7076714038848877, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7129999995231628 + }, + "5": { + "covertype_test_loss": 0.6316465139389038, + "covertype_test_accuracy": 0.7215789556503296, + "covertype_test_precision": 0.7170066237449646, + "covertype_test_recall": 0.7215789556503296, + "covertype_test_f1-score": 0.7156355977058411, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7215789556503296 + }, + "10": { + "covertype_test_loss": 0.6236681938171387, + "covertype_test_accuracy": 0.7238888740539551, + "covertype_test_precision": 0.7146440148353577, + "covertype_test_recall": 0.7238888740539551, + "covertype_test_f1-score": 0.716079592704773, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7238888740539551 + }, + "20": { + "covertype_test_loss": 0.6041689515113831, + "covertype_test_accuracy": 0.7231249809265137, + "covertype_test_precision": 0.7182007431983948, + "covertype_test_recall": 0.7231249809265137, + "covertype_test_f1-score": 0.7156256437301636, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7231249809265137 + }, + "50": { + "covertype_test_loss": 0.55744469165802, + "covertype_test_accuracy": 0.746999979019165, + "covertype_test_precision": 0.7377015352249146, + "covertype_test_recall": 0.746999979019165, + "covertype_test_f1-score": 0.7418015003204346, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.746999979019165 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.7454142570495605, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.6546546816825867, + "covertype_val_precision": 0.6786141991615295, + "covertype_val_recall": 0.6546546816825867, + "covertype_val_f1-score": 0.6352177262306213, + "covertype_val_support": 999.0, + "covertype_val_score": 0.6546546816825867 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7398768663406372, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6600000262260437, + "covertype_test_precision": 0.6941555738449097, + "covertype_test_recall": 0.6600000262260437, + "covertype_test_f1-score": 0.6400870680809021, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6600000262260437 + }, + "5": { + "covertype_test_loss": 0.7302127480506897, + "covertype_test_accuracy": 0.6647368669509888, + "covertype_test_precision": 0.6999762654304504, + "covertype_test_recall": 0.6647368669509888, + "covertype_test_f1-score": 0.648945689201355, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6647368669509888 + }, + "10": { + "covertype_test_loss": 0.7226381897926331, + "covertype_test_accuracy": 0.6711111068725586, + "covertype_test_precision": 0.7031581401824951, + "covertype_test_recall": 0.6711111068725586, + "covertype_test_f1-score": 0.6573675274848938, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6711111068725586 + }, + "20": { + "covertype_test_loss": 0.707771360874176, + "covertype_test_accuracy": 0.6700000166893005, + "covertype_test_precision": 0.7046302556991577, + "covertype_test_recall": 0.6700000166893005, + "covertype_test_f1-score": 0.655622124671936, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6700000166893005 + }, + "50": { + "covertype_test_loss": 0.6578568816184998, + "covertype_test_accuracy": 0.6890000104904175, + "covertype_test_precision": 0.7277476787567139, + "covertype_test_recall": 0.6890000104904175, + "covertype_test_f1-score": 0.6772395372390747, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6890000104904175 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6196090579032898, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7367367148399353, + "covertype_val_precision": 0.7182949185371399, + "covertype_val_recall": 0.7367367148399353, + "covertype_val_f1-score": 0.722987174987793, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7367367148399353 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6205096244812012, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7229999899864197, + "covertype_test_precision": 0.7115595936775208, + "covertype_test_recall": 0.7229999899864197, + "covertype_test_f1-score": 0.7098643183708191, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7229999899864197 + }, + "5": { + "covertype_test_loss": 0.6040180325508118, + "covertype_test_accuracy": 0.7326315641403198, + "covertype_test_precision": 0.7208764553070068, + "covertype_test_recall": 0.7326315641403198, + "covertype_test_f1-score": 0.7221058011054993, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7326315641403198 + }, + "10": { + "covertype_test_loss": 0.5981095433235168, + "covertype_test_accuracy": 0.7361111044883728, + "covertype_test_precision": 0.7229170799255371, + "covertype_test_recall": 0.7361111044883728, + "covertype_test_f1-score": 0.7272745966911316, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7361111044883728 + }, + "20": { + "covertype_test_loss": 0.5815730094909668, + "covertype_test_accuracy": 0.7381250262260437, + "covertype_test_precision": 0.7246593236923218, + "covertype_test_recall": 0.7381250262260437, + "covertype_test_f1-score": 0.7300968170166016, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7381250262260437 + }, + "50": { + "covertype_test_loss": 0.5448490381240845, + "covertype_test_accuracy": 0.7570000290870667, + "covertype_test_precision": 0.7477531433105469, + "covertype_test_recall": 0.7570000290870667, + "covertype_test_f1-score": 0.7487819194793701, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7570000290870667 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.705849039554596, + "std": 0.1167237656634883, + "n": 5, + "ci95": 0.14490846286531284 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.6858999967575073, + "std": 0.05161200653421735, + "n": 5, + "ci95": 0.06407449665246183 + }, + "covertype_test_precision": { + "mean": 0.706089460849762, + "std": 0.017066932503490208, + "n": 5, + "ci95": 0.021187998355337686 + }, + "covertype_test_recall": { + "mean": 0.6858999967575073, + "std": 0.05161200653421735, + "n": 5, + "ci95": 0.06407449665246183 + }, + "covertype_test_f1-score": { + "mean": 0.669593358039856, + "std": 0.05884305765607914, + "n": 5, + "ci95": 0.07305159310761206 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6858999967575073, + "std": 0.05161200653421735, + "n": 5, + "ci95": 0.06407449665246183 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.6892925262451172, + "std": 0.11850033961602964, + "n": 5, + "ci95": 0.14711401714267838 + }, + "covertype_test_accuracy": { + "mean": 0.6932631611824036, + "std": 0.0539587903125953, + "n": 5, + "ci95": 0.06698794643767875 + }, + "covertype_test_precision": { + "mean": 0.7144812345504761, + "std": 0.017538013932866255, + "n": 5, + "ci95": 0.02177282943431504 + }, + "covertype_test_recall": { + "mean": 0.6932631611824036, + "std": 0.0539587903125953, + "n": 5, + "ci95": 0.06698794643767875 + }, + "covertype_test_f1-score": { + "mean": 0.6795477747917176, + "std": 0.06004976772687643, + "n": 5, + "ci95": 0.07454968135458871 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6932631611824036, + "std": 0.0539587903125953, + "n": 5, + "ci95": 0.06698794643767875 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.6811354398727417, + "std": 0.11616679071508124, + "n": 5, + "ci95": 0.14421699799379012 + }, + "covertype_test_accuracy": { + "mean": 0.6982222199440002, + "std": 0.05074202330899298, + "n": 5, + "ci95": 0.0629944429789938 + }, + "covertype_test_precision": { + "mean": 0.7168596148490906, + "std": 0.016211314234565188, + "n": 5, + "ci95": 0.020125778271495857 + }, + "covertype_test_recall": { + "mean": 0.6982222199440002, + "std": 0.05074202330899298, + "n": 5, + "ci95": 0.0629944429789938 + }, + "covertype_test_f1-score": { + "mean": 0.6854469656944275, + "std": 0.056453222072556715, + "n": 5, + "ci95": 0.07008469601565687 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6982222199440002, + "std": 0.05074202330899298, + "n": 5, + "ci95": 0.0629944429789938 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6639758586883545, + "std": 0.11458556420297501, + "n": 5, + "ci95": 0.14225396071505994 + }, + "covertype_test_accuracy": { + "mean": 0.7003750085830689, + "std": 0.04928907586323348, + "n": 5, + "ci95": 0.06119065966381114 + }, + "covertype_test_precision": { + "mean": 0.7208824634552002, + "std": 0.017553200259542507, + "n": 5, + "ci95": 0.021791682726467816 + }, + "covertype_test_recall": { + "mean": 0.7003750085830689, + "std": 0.04928907586323348, + "n": 5, + "ci95": 0.06119065966381114 + }, + "covertype_test_f1-score": { + "mean": 0.6874153017997742, + "std": 0.05653582224434492, + "n": 5, + "ci95": 0.07018724123306141 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7003750085830689, + "std": 0.04928907586323348, + "n": 5, + "ci95": 0.06119065966381114 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6163353800773621, + "std": 0.10180868176072237, + "n": 5, + "ci95": 0.1263919091063464 + }, + "covertype_test_accuracy": { + "mean": 0.7142000079154969, + "std": 0.05535069323797731, + "n": 5, + "ci95": 0.068715945120966 + }, + "covertype_test_precision": { + "mean": 0.7377862811088562, + "std": 0.017498398123354127, + "n": 5, + "ci95": 0.021723647795692125 + }, + "covertype_test_recall": { + "mean": 0.7142000079154969, + "std": 0.05535069323797731, + "n": 5, + "ci95": 0.068715945120966 + }, + "covertype_test_f1-score": { + "mean": 0.7016144633293152, + "std": 0.06375993272139216, + "n": 5, + "ci95": 0.0791557211210057 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7142000079154969, + "std": 0.05535069323797731, + "n": 5, + "ci95": 0.068715945120966 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/downstream_results/resnet_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/downstream_results/resnet_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..3b6e2113116436c5d27ac7d084a6d747e687b6a7 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/downstream_results/resnet_covertype_downstream_results.json @@ -0,0 +1,566 @@ +{ + "dataset": "covertype", + "model": "resnet", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpqd646puk", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "resnet", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpqd646puk/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_blocks": 3, + "d_out": 128, + "d_block": 128, + "d_hidden": 256, + "dropout1": 0.1, + "dropout2": 0.0, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.590170681476593, + "lr": 0.0, + "covertype_val_accuracy": 0.7497497200965881, + "covertype_val_precision": 0.7454732656478882, + "covertype_val_recall": 0.7497497200965881, + "covertype_val_f1-score": 0.7460734844207764, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7497497200965881 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5454433560371399, + "lr": 0.0, + "covertype_test_accuracy": 0.7785000205039978, + "covertype_test_precision": 0.7793304920196533, + "covertype_test_recall": 0.7785000205039978, + "covertype_test_f1-score": 0.7782487869262695, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7785000205039978 + }, + "5": { + "covertype_test_loss": 0.5159568190574646, + "covertype_test_accuracy": 0.7863157987594604, + "covertype_test_precision": 0.7881928086280823, + "covertype_test_recall": 0.7863157987594604, + "covertype_test_f1-score": 0.7864030599594116, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7863157987594604 + }, + "10": { + "covertype_test_loss": 0.5019070506095886, + "covertype_test_accuracy": 0.7900000214576721, + "covertype_test_precision": 0.7910312414169312, + "covertype_test_recall": 0.7900000214576721, + "covertype_test_f1-score": 0.7897536158561707, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7900000214576721 + }, + "20": { + "covertype_test_loss": 0.49026206135749817, + "covertype_test_accuracy": 0.7912499904632568, + "covertype_test_precision": 0.791990339756012, + "covertype_test_recall": 0.7912499904632568, + "covertype_test_f1-score": 0.7913292050361633, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7912499904632568 + }, + "50": { + "covertype_test_loss": 0.4540192186832428, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7907436490058899, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7907339334487915, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7910000085830688 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.539158284664154, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7837837934494019, + "covertype_val_precision": 0.7780334949493408, + "covertype_val_recall": 0.7837837934494019, + "covertype_val_f1-score": 0.7793501019477844, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7837837934494019 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5313564538955688, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7835000157356262, + "covertype_test_precision": 0.7840135097503662, + "covertype_test_recall": 0.7835000157356262, + "covertype_test_f1-score": 0.7828895449638367, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7835000157356262 + }, + "5": { + "covertype_test_loss": 0.5021683573722839, + "covertype_test_accuracy": 0.7910526394844055, + "covertype_test_precision": 0.7919764518737793, + "covertype_test_recall": 0.7910526394844055, + "covertype_test_f1-score": 0.790749728679657, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7910526394844055 + }, + "10": { + "covertype_test_loss": 0.4885614216327667, + "covertype_test_accuracy": 0.7972221970558167, + "covertype_test_precision": 0.7966908812522888, + "covertype_test_recall": 0.7972221970558167, + "covertype_test_f1-score": 0.7961899042129517, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7972221970558167 + }, + "20": { + "covertype_test_loss": 0.4704720973968506, + "covertype_test_accuracy": 0.8043749928474426, + "covertype_test_precision": 0.8040780425071716, + "covertype_test_recall": 0.8043749928474426, + "covertype_test_f1-score": 0.8036108613014221, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8043749928474426 + }, + "50": { + "covertype_test_loss": 0.43061941862106323, + "covertype_test_accuracy": 0.8059999942779541, + "covertype_test_precision": 0.8065657615661621, + "covertype_test_recall": 0.8059999942779541, + "covertype_test_f1-score": 0.8054088354110718, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.8059999942779541 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.6057011485099792, + "lr": 0.0, + "covertype_val_accuracy": 0.7657657861709595, + "covertype_val_precision": 0.7659751772880554, + "covertype_val_recall": 0.7657657861709595, + "covertype_val_f1-score": 0.7620086669921875, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7657657861709595 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5769332647323608, + "lr": 0.0, + "covertype_test_accuracy": 0.7689999938011169, + "covertype_test_precision": 0.7773579359054565, + "covertype_test_recall": 0.7689999938011169, + "covertype_test_f1-score": 0.7684439420700073, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7689999938011169 + }, + "5": { + "covertype_test_loss": 0.551946222782135, + "covertype_test_accuracy": 0.774210512638092, + "covertype_test_precision": 0.7851305603981018, + "covertype_test_recall": 0.774210512638092, + "covertype_test_f1-score": 0.7741965055465698, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.774210512638092 + }, + "10": { + "covertype_test_loss": 0.537545382976532, + "covertype_test_accuracy": 0.7788888812065125, + "covertype_test_precision": 0.78931725025177, + "covertype_test_recall": 0.7788888812065125, + "covertype_test_f1-score": 0.7783699631690979, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7788888812065125 + }, + "20": { + "covertype_test_loss": 0.5228956937789917, + "covertype_test_accuracy": 0.7825000286102295, + "covertype_test_precision": 0.7926766872406006, + "covertype_test_recall": 0.7825000286102295, + "covertype_test_f1-score": 0.781883180141449, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7825000286102295 + }, + "50": { + "covertype_test_loss": 0.4784367084503174, + "covertype_test_accuracy": 0.7860000133514404, + "covertype_test_precision": 0.7959874272346497, + "covertype_test_recall": 0.7860000133514404, + "covertype_test_f1-score": 0.7854860424995422, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7860000133514404 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 0.6245912909507751, + "lr": 0.0, + "covertype_val_accuracy": 0.7587587833404541, + "covertype_val_precision": 0.7475499510765076, + "covertype_val_recall": 0.7587587833404541, + "covertype_val_f1-score": 0.7506744861602783, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7587587833404541 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.58138507604599, + "lr": 0.0, + "covertype_test_accuracy": 0.7735000252723694, + "covertype_test_precision": 0.7711060643196106, + "covertype_test_recall": 0.7735000252723694, + "covertype_test_f1-score": 0.7720219492912292, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7735000252723694 + }, + "5": { + "covertype_test_loss": 0.5569441914558411, + "covertype_test_accuracy": 0.7768421173095703, + "covertype_test_precision": 0.7745630145072937, + "covertype_test_recall": 0.7768421173095703, + "covertype_test_f1-score": 0.775244414806366, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7768421173095703 + }, + "10": { + "covertype_test_loss": 0.5454530715942383, + "covertype_test_accuracy": 0.7827777862548828, + "covertype_test_precision": 0.7794826030731201, + "covertype_test_recall": 0.7827777862548828, + "covertype_test_f1-score": 0.7800653576850891, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7827777862548828 + }, + "20": { + "covertype_test_loss": 0.5358678102493286, + "covertype_test_accuracy": 0.7850000262260437, + "covertype_test_precision": 0.7821897268295288, + "covertype_test_recall": 0.7850000262260437, + "covertype_test_f1-score": 0.7828778624534607, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7850000262260437 + }, + "50": { + "covertype_test_loss": 0.4697783589363098, + "covertype_test_accuracy": 0.7910000085830688, + "covertype_test_precision": 0.7910351753234863, + "covertype_test_recall": 0.7910000085830688, + "covertype_test_f1-score": 0.7891445755958557, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7910000085830688 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.5584619641304016, + "lr": 0.0005000000237487257, + "covertype_val_accuracy": 0.7877877950668335, + "covertype_val_precision": 0.780521035194397, + "covertype_val_recall": 0.7877877950668335, + "covertype_val_f1-score": 0.7828101515769958, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7877877950668335 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.5690397024154663, + "lr": 0.0005000000819563866, + "covertype_test_accuracy": 0.7864999771118164, + "covertype_test_precision": 0.7853950262069702, + "covertype_test_recall": 0.7864999771118164, + "covertype_test_f1-score": 0.7844038605690002, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7864999771118164 + }, + "5": { + "covertype_test_loss": 0.5411957502365112, + "covertype_test_accuracy": 0.793684184551239, + "covertype_test_precision": 0.7912313342094421, + "covertype_test_recall": 0.793684184551239, + "covertype_test_f1-score": 0.7916987538337708, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.793684184551239 + }, + "10": { + "covertype_test_loss": 0.5338399410247803, + "covertype_test_accuracy": 0.7961111068725586, + "covertype_test_precision": 0.7938398718833923, + "covertype_test_recall": 0.7961111068725586, + "covertype_test_f1-score": 0.7942228317260742, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7961111068725586 + }, + "20": { + "covertype_test_loss": 0.5189481973648071, + "covertype_test_accuracy": 0.8012499809265137, + "covertype_test_precision": 0.8010987639427185, + "covertype_test_recall": 0.8012499809265137, + "covertype_test_f1-score": 0.8000239133834839, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.8012499809265137 + }, + "50": { + "covertype_test_loss": 0.48661884665489197, + "covertype_test_accuracy": 0.7960000038146973, + "covertype_test_precision": 0.7992454767227173, + "covertype_test_recall": 0.7960000038146973, + "covertype_test_f1-score": 0.7939049601554871, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7960000038146973 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.5608315706253052, + "std": 0.02153290633032946, + "n": 5, + "ci95": 0.026732348289264025 + }, + "lr": { + "mean": 0.00020000003278255462, + "std": 0.0002738613236419447, + "n": 5, + "ci95": 0.0003399892320268738 + }, + "covertype_test_accuracy": { + "mean": 0.7782000064849853, + "std": 0.007137921189972325, + "n": 5, + "ci95": 0.008861478909741705 + }, + "covertype_test_precision": { + "mean": 0.7794406056404114, + "std": 0.005704839908902124, + "n": 5, + "ci95": 0.007082358741535077 + }, + "covertype_test_recall": { + "mean": 0.7782000064849853, + "std": 0.007137921189972325, + "n": 5, + "ci95": 0.008861478909741705 + }, + "covertype_test_f1-score": { + "mean": 0.7772016167640686, + "std": 0.006871084877153467, + "n": 5, + "ci95": 0.008530210982362596 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7782000064849853, + "std": 0.007137921189972325, + "n": 5, + "ci95": 0.008861478909741705 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.5336422681808471, + "std": 0.023656138980220832, + "n": 5, + "ci95": 0.029368267185919752 + }, + "covertype_test_accuracy": { + "mean": 0.7844210505485535, + "std": 0.008588786404529068, + "n": 5, + "ci95": 0.010662677207886866 + }, + "covertype_test_precision": { + "mean": 0.7862188339233398, + "std": 0.007057165954573646, + "n": 5, + "ci95": 0.008761224116183328 + }, + "covertype_test_recall": { + "mean": 0.7844210505485535, + "std": 0.008588786404529068, + "n": 5, + "ci95": 0.010662677207886866 + }, + "covertype_test_f1-score": { + "mean": 0.7836584925651551, + "std": 0.008408180301820051, + "n": 5, + "ci95": 0.010438461063223492 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7844210505485535, + "std": 0.008588786404529068, + "n": 5, + "ci95": 0.010662677207886866 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.5214613735675812, + "std": 0.024760372820398547, + "n": 5, + "ci95": 0.03073913478528531 + }, + "covertype_test_accuracy": { + "mean": 0.7889999985694885, + "std": 0.008064165726213823, + "n": 5, + "ci95": 0.010011379028378254 + }, + "covertype_test_precision": { + "mean": 0.7900723695755005, + "std": 0.006550411541118067, + "n": 5, + "ci95": 0.008132106278126537 + }, + "covertype_test_recall": { + "mean": 0.7889999985694885, + "std": 0.008064165726213823, + "n": 5, + "ci95": 0.010011379028378254 + }, + "covertype_test_f1-score": { + "mean": 0.7877203345298767, + "std": 0.008126783318656608, + "n": 5, + "ci95": 0.010089116574092553 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7889999985694885, + "std": 0.008064165726213823, + "n": 5, + "ci95": 0.010011379028378254 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.5076891720294953, + "std": 0.026649833197082275, + "n": 5, + "ci95": 0.03308483360055066 + }, + "covertype_test_accuracy": { + "mean": 0.7928750038146972, + "std": 0.009678404314299298, + "n": 5, + "ci95": 0.01201539964206986 + }, + "covertype_test_precision": { + "mean": 0.7944067120552063, + "std": 0.008608204808904046, + "n": 5, + "ci95": 0.010686784476130657 + }, + "covertype_test_recall": { + "mean": 0.7928750038146972, + "std": 0.009678404314299298, + "n": 5, + "ci95": 0.01201539964206986 + }, + "covertype_test_f1-score": { + "mean": 0.7919450044631958, + "std": 0.009813174396608813, + "n": 5, + "ci95": 0.012182711974367346 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7928750038146972, + "std": 0.009678404314299298, + "n": 5, + "ci95": 0.01201539964206986 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.46389451026916506, + "std": 0.022176810948296904, + "n": 5, + "ci95": 0.027531733297888075 + }, + "covertype_test_accuracy": { + "mean": 0.7940000057220459, + "std": 0.007582868212457995, + "n": 5, + "ci95": 0.009413865038808004 + }, + "covertype_test_precision": { + "mean": 0.796715497970581, + "std": 0.006555295908984392, + "n": 5, + "ci95": 0.008138170049592055 + }, + "covertype_test_recall": { + "mean": 0.7940000057220459, + "std": 0.007582868212457995, + "n": 5, + "ci95": 0.009413865038808004 + }, + "covertype_test_f1-score": { + "mean": 0.7929356694221497, + "std": 0.007603229072162663, + "n": 5, + "ci95": 0.009439142332302166 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7940000057220459, + "std": 0.007582868212457995, + "n": 5, + "ci95": 0.009413865038808004 + } + } + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/embedding.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/embedding.npy new file mode 100644 index 0000000000000000000000000000000000000000..94ff3a981342eabd423a6d366ae404f0fb5d42b9 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/embedding.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1c2b70833adb9dad04ed99d3b1d63aca2af96bf77b1037bfd259e9a0b967d182 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/uncertainty.npy b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/uncertainty.npy new file mode 100644 index 0000000000000000000000000000000000000000..c798546f56242d280902e6f4ed14257b8c647e65 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/uncertainty.npy @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d242dc2dd2e28d128731d077a42c448329c93cca9b547250776dc0b5c281ebb1 +size 138240128 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/vtjepa_best_model.pth b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/vtjepa_best_model.pth new file mode 100644 index 0000000000000000000000000000000000000000..81e7646e5f71fd0d99dcd0a2a023b541e4d864f2 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/vtjepa_best_model.pth @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:5528b9fc2127aa70407ebc28a382735219f9ef93c0dd196e3ca8e58608dbc27d +size 11495312 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/vtjepa_config.yaml b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/vtjepa_config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..73671b6568aa7205cd3bd903a53aca536bca269a --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0.002_z0.002_sy0.002/seed_42/wjepa_joint/covertype/20260905_191346/vtjepa_config.yaml @@ -0,0 +1,129 @@ +batch_size: 512 +data_loader_nprocs: 0 +data_path: /pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000 +data_set: covertype +deterministic_mode: warn +downstream_evaluation_epochs: 50 +downstream_probe_patience: 20 +exp_cadence_type: improvement +exp_device: null +exp_final_lr: 0.0 +exp_final_weight_decay: 0.0 +exp_gradient_clipping: 1.0 +exp_ipe_scale: 1.0 +exp_lr: 0.0005 +exp_n_runs: 1 +exp_patience: 15 +exp_scheduler: true +exp_start_lr: 0.0 +exp_train_total_epochs: 500 +exp_val_cache_cadence: 1 +exp_warmup: 12 +exp_weight_decay: 0.0 +exp_weight_decay_scheduler: true +full_dataset_cuda: false +init_type: trunc_normal +is_batchlearning: true +iteration: 0 +jepa_objective: w_jepa_joint +load_from_checkpoint: false +load_path: null +log_sigma_x_init: -2.0 +log_sigma_y_init: -2.0 +log_tensorboard: false +logvar_init_bias: -4.0 +logvar_init_std: 0.005 +mask_allow_overlap: false +mask_max_ctx_share: 0.35 +mask_max_trgt_share: 0.6 +mask_min_ctx_share: 0.15 +mask_min_trgt_share: 0.15 +mask_num_encs: 1 +mask_num_preds: 4 +mask_seed: 0 +mask_shared: auto +mock: false +model_act_func: relu +model_amp: false +model_dim_feedforward: 64 +model_dim_hidden: 64 +model_dropout_prob: 0.0015 +model_dtype: float32 +model_feature_index_embedding: true +model_feature_type_embedding: true +model_layer_norm_eps: 1.0e-05 +model_num_heads: 8 +model_num_layers: 8 +model_selection: filtered_20 +mp_distributed: false +mp_gpus: 1 +mp_nodes: 1 +mp_nr: 0 +mu_init_std: 0.03 +n_cls_tokens: 1 +np_seed: 42 +pin_memory: false +pooled_context_representation_size_for_auxiliary_encoder: 1 +pooled_context_representation_size_for_target_posterior: 1 +pre_evaluation: true +pred_activation: relu +pred_dim_feedforward: 256 +pred_embed_dim: 16 +pred_layer_norm_eps: 1.0e-05 +pred_num_heads: 4 +pred_num_layers: 16 +pred_p_dropout: 0.002 +pred_type: transformer +probe_cadence: 2 +probe_encoder_type: target_posterior +probe_model: linear_probe +probe_representation_type: mean +random: false +recon_x_weight: 0.001 +recon_y_weight: 0.5 +res_dir: ./ +safe_exit: false +sigma_aggregation: mean +subset_size: -1 +sw_full_num_projections: 2048 +sw_include_marginals: true +sw_marginal_num_projections: 1024 +sw_p: 2 +sw_s_x_weight: 0.002 +sw_s_y_weight: 0.002 +sw_seed: 0 +sw_z_weight: 0.002 +test: false +torch_seed: 42 +using_embedding: false +verbose: false +vtjepa_kl_x_annealing_epochs: 60 +vtjepa_kl_x_end_weight: 1.0e-06 +vtjepa_kl_x_start_epoch: 1 +vtjepa_kl_x_start_weight: 0.0 +vtjepa_kl_y_annealing_epochs: 20 +vtjepa_kl_y_end_weight: 1.0e-06 +vtjepa_kl_y_start_epoch: 1 +vtjepa_kl_y_start_weight: 0.0 +vtjepa_kl_z_annealing_epochs: 60 +vtjepa_kl_z_end_weight: 1.0e-05 +vtjepa_kl_z_start_epoch: 1 +vtjepa_kl_z_start_weight: 0.0 +wjepa_joint_annealing_epochs: 60 +wjepa_joint_end_weight: 0.001 +wjepa_joint_start_epoch: 1 +wjepa_joint_start_weight: 0.0 +wjepa_marginal_end_scale: 1.0 +wjepa_marginal_start_scale: 0.0 +wjepa_s_x_annealing_epochs: 30 +wjepa_s_x_end_scale: 1.0 +wjepa_s_x_start_epoch: 0 +wjepa_s_x_start_scale: 0.0 +wjepa_s_y_annealing_epochs: 30 +wjepa_s_y_end_scale: 1.0 +wjepa_s_y_start_epoch: 0 +wjepa_s_y_start_scale: 0.0 +wjepa_z_annealing_epochs: 30 +wjepa_z_end_scale: 1.0 +wjepa_z_start_epoch: 0 +wjepa_z_start_scale: 0.0 diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/comparison_complete.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/comparison_complete.json new file mode 100644 index 0000000000000000000000000000000000000000..d53aef05620a16ce1a5bb6e1cb91f67c8e8999ba --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/comparison_complete.json @@ -0,0 +1,22 @@ +{ + "completed_at_utc": "2026-09-05T19:03:56.670430+00:00", + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0, + "sw_z_weight": 0.0, + "sw_s_y_weight": 0.0, + "lambda_joint": 0.001, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + } +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/comparison_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/comparison_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..76992a82e1dcfb2ef1208ce2c46522b1c2f88f87 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/comparison_manifest.json @@ -0,0 +1,60 @@ +{ + "spec": { + "dataset": "covertype", + "objective": "w_jepa_joint", + "torch_seed": 42, + "np_seed": 42, + "mask_seed": 0, + "sw_seed": 0, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_p": 2, + "sw_include_marginals": true, + "sw_s_x_weight": 0.0, + "sw_z_weight": 0.0, + "sw_s_y_weight": 0.0, + "lambda_joint": 0.001, + "epochs": 500, + "smoke": false, + "downstream_models": "mlp,resnet" + }, + "train_command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/hessian_train_vtjepa.py", + "--dataset", + "covertype", + "--results-root", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42", + "--epochs", + "500", + "--objective", + "w_jepa_joint", + "--sw-full-end-weight", + "0.001", + "--torch-seed", + "42", + "--np-seed", + "42", + "--mask-seed", + "0", + "--sw-seed", + "0", + "--sw-full-num-projections", + "2048", + "--sw-marginal-num-projections", + "1024", + "--sw-p", + "2", + "--sw-s-x-end-weight", + "0.0", + "--sw-z-end-weight", + "0.0", + "--sw-s-y-end-weight", + "0.0", + "--model-selection", + "filtered_20", + "--deterministic-mode", + "warn", + "--sw-include-marginals" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/paper_alignment_manifest.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/paper_alignment_manifest.json new file mode 100644 index 0000000000000000000000000000000000000000..382b0f2cbc3d5485c26bb8755f090899eaa1491f --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/paper_alignment_manifest.json @@ -0,0 +1,201 @@ +{ + "code_variant": "paper-aligned-v4-token-joint-sw", + "upstream_commit": "eba7a9b1e01bb6613f4968b0f460d1bd1ae409ef", + "source_sha256": { + "src/encoder.py": "c29e003ed6a59e239cfe5cbc6823817fed99c54bfa2f4ffa94bc9ea8eb6f777c", + "src/mask.py": "f447b737b9144d96f5649d51f457e0c207a0e05da62303fb93726471f75779a0", + "src/run_vtjepa.py": "6ae9c394e822156fc373cfb7dc33ae0b04f9a37073a76d5a816e559461308d35", + "src/train_vtjepa.py": "b8787906b52278fdd06206d55c2c08d13f5be5e18062b26ad924bda19f1533b8", + "src/vtjepa.py": "2e1dc60b0d48e1da098451b50426bfca437fbdbbad6809f1cd09a67937c90cbc", + "src/sliced_wasserstein.py": "a85be4c6433b3f3790cac2a6b8763803c80076715a39b554fd84079c2028bdf0" + }, + "dataset": "covertype", + "objective": "w_jepa_joint", + "seeds": { + "torch": 42, + "numpy": 42, + "mask": 0, + "sliced_wasserstein": 0 + }, + "smoke": false, + "sw_include_marginals": true, + "sw_full_num_projections": 2048, + "sw_marginal_num_projections": 1024, + "sw_component_weights": { + "full": 0.001, + "s_x": 0.0, + "z": 0.0, + "s_y": 0.0 + }, + "command": [ + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/.venv/bin/python3", + "-W", + "ignore", + "-m", + "src.run_vtjepa", + "--data_set", + "covertype", + "--data_path", + "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "--batch_size", + "512", + "--model_dim_hidden", + "64", + "--model_dim_feedforward", + "64", + "--model_num_layers", + "8", + "--model_num_heads", + "8", + "--model_dropout_prob", + "0.0015", + "--model_feature_index_embedding", + "true", + "--model_feature_type_embedding", + "true", + "--exp_train_total_epochs", + "500", + "--init_type", + "trunc_normal", + "--pre_evaluation", + "true", + "--pin_memory", + "false", + "--mask_min_ctx_share", + "0.15", + "--mask_max_ctx_share", + "0.35", + "--mask_min_trgt_share", + "0.15", + "--mask_max_trgt_share", + "0.6", + "--mask_num_preds", + "4", + "--pred_num_layers", + "16", + "--pred_embed_dim", + "16", + "--pred_num_heads", + "4", + "--pred_p_dropout", + "0.002", + "--pred_dim_feedforward", + "256", + "--pred_type", + "transformer", + "--probe_model", + "linear_probe", + "--probe_cadence", + "2", + "--probe_representation_type", + "mean", + "--probe_encoder_type", + "target_posterior", + "--downstream_evaluation_epochs", + "50", + "--downstream_probe_patience", + "20", + "--exp_final_lr", + "0.0", + "--exp_final_weight_decay", + "0.0", + "--exp_start_lr", + "0.0", + "--exp_patience", + "15", + "--exp_weight_decay", + "0.0", + "--exp_lr", + "0.0005", + "--exp_warmup", + "12", + "--log_tensorboard", + "false", + "--n_cls_tokens", + "1", + "--vtjepa_kl_x_start_weight", + "0", + "--vtjepa_kl_x_end_weight", + "1e-06", + "--vtjepa_kl_x_annealing_epochs", + "60", + "--vtjepa_kl_z_start_weight", + "0", + "--vtjepa_kl_z_end_weight", + "1e-05", + "--vtjepa_kl_z_annealing_epochs", + "60", + "--vtjepa_kl_y_start_weight", + "0", + "--vtjepa_kl_y_end_weight", + "1e-06", + "--vtjepa_kl_y_annealing_epochs", + "20", + "--vtjepa_kl_x_start_epoch", + "1", + "--vtjepa_kl_z_start_epoch", + "1", + "--vtjepa_kl_y_start_epoch", + "1", + "--recon_x_weight", + "0.001", + "--recon_y_weight", + "0.5", + "--mu_init_std", + "0.03", + "--logvar_init_std", + "0.005", + "--logvar_init_bias", + "-4.0", + "--log_sigma_x_init", + "-2.0", + "--log_sigma_y_init", + "-2.0", + "--pooled_context_representation_size_for_target_posterior", + "1", + "--pooled_context_representation_size_for_auxiliary_encoder", + "1", + "--sigma_aggregation", + "mean", + "--model_selection", + "filtered_20", + "--jepa_objective", + "w_jepa_joint", + "--wjepa_joint_start_weight", + "0.0", + "--wjepa_joint_end_weight", + "0.001", + "--wjepa_joint_start_epoch", + "1", + "--wjepa_joint_annealing_epochs", + "60", + "--sw_full_num_projections", + "2048", + "--sw_marginal_num_projections", + "1024", + "--sw_p", + "2", + "--sw_include_marginals", + "true", + "--sw_s_x_weight", + "0.0", + "--sw_z_weight", + "0.0", + "--sw_s_y_weight", + "0.0", + "--torch_seed", + "42", + "--np_seed", + "42", + "--mask_seed", + "0", + "--sw_seed", + "0", + "--deterministic_mode", + "warn", + "--random", + "false", + "--safe_exit", + "false" + ] +} \ No newline at end of file diff --git a/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_183754/downstream_results/mlp_covertype_downstream_results.json b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_183754/downstream_results/mlp_covertype_downstream_results.json new file mode 100644 index 0000000000000000000000000000000000000000..7a1f70f62cab69ba15af9dc351e1be8076602247 --- /dev/null +++ b/JEPA/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_183754/downstream_results/mlp_covertype_downstream_results.json @@ -0,0 +1,563 @@ +{ + "dataset": "covertype", + "model": "mlp", + "config": { + "script_path": "src/run_benchmark.py", + "folder_name": "/tmp/tmpvv80dyd_", + "data_path": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/baselines/Var-T-JEPA/datasets/subset_views/size_10000", + "data_set": "covertype", + "model_name": "mlp", + "using_embedding": true, + "emb_train": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_183754/embedding.npy", + "emb_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_183754/embedding.npy", + "uncertainty_test": "/pfss/mlde/workspaces/mlde_wsp_MGPATH/truong/JEPA/reproduction/artifacts/wjepa_covertype_sweep/covertype/joint_sw/sw_f0.001_sx0_z0_sy0/seed_42/wjepa_joint/covertype/20260905_183754/uncertainty.npy", + "use_split_assignments": true, + "exp_train_total_epochs": 50, + "split_config_file": "/tmp/tmpvv80dyd_/split_data/split_config.json", + "sigma_aggregation": "mean", + "lr": 0.001, + "weight_decay": 0.01, + "batch_size": 128, + "exp_patience": 16, + "encoder_type": "linear_flatten", + "n_hidden": 2, + "hidden_dim": 128, + "dropout": 0.1, + "filter_uncertainty": true + }, + "runs": [ + { + "seed": 0, + "val_metrics": { + "covertype_val_loss": 0.6572645306587219, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7207207083702087, + "covertype_val_precision": 0.6905013918876648, + "covertype_val_recall": 0.7207207083702087, + "covertype_val_f1-score": 0.6946590542793274, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7207207083702087 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6721924543380737, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7105000019073486, + "covertype_test_precision": 0.7210095524787903, + "covertype_test_recall": 0.7105000019073486, + "covertype_test_f1-score": 0.6870536804199219, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7105000019073486 + }, + "5": { + "covertype_test_loss": 0.6406646370887756, + "covertype_test_accuracy": 0.7215789556503296, + "covertype_test_precision": 0.7261095643043518, + "covertype_test_recall": 0.7215789556503296, + "covertype_test_f1-score": 0.7008987069129944, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7215789556503296 + }, + "10": { + "covertype_test_loss": 0.6274120211601257, + "covertype_test_accuracy": 0.7277777791023254, + "covertype_test_precision": 0.7272836565971375, + "covertype_test_recall": 0.7277777791023254, + "covertype_test_f1-score": 0.7092380523681641, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7277777791023254 + }, + "20": { + "covertype_test_loss": 0.6151279211044312, + "covertype_test_accuracy": 0.7293750047683716, + "covertype_test_precision": 0.721906840801239, + "covertype_test_recall": 0.7293750047683716, + "covertype_test_f1-score": 0.7122350335121155, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7293750047683716 + }, + "50": { + "covertype_test_loss": 0.5906108617782593, + "covertype_test_accuracy": 0.7329999804496765, + "covertype_test_precision": 0.7418631315231323, + "covertype_test_recall": 0.7329999804496765, + "covertype_test_f1-score": 0.7138328552246094, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7329999804496765 + } + } + }, + { + "seed": 1, + "val_metrics": { + "covertype_val_loss": 0.6367396712303162, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7257257103919983, + "covertype_val_precision": 0.7166265249252319, + "covertype_val_recall": 0.7257257103919983, + "covertype_val_f1-score": 0.7100207209587097, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7257257103919983 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6414362788200378, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7145000100135803, + "covertype_test_precision": 0.7029103636741638, + "covertype_test_recall": 0.7145000100135803, + "covertype_test_f1-score": 0.6967198252677917, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7145000100135803 + }, + "5": { + "covertype_test_loss": 0.624649167060852, + "covertype_test_accuracy": 0.7236841917037964, + "covertype_test_precision": 0.7132441997528076, + "covertype_test_recall": 0.7236841917037964, + "covertype_test_f1-score": 0.7094377279281616, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7236841917037964 + }, + "10": { + "covertype_test_loss": 0.6105213165283203, + "covertype_test_accuracy": 0.7300000190734863, + "covertype_test_precision": 0.716923177242279, + "covertype_test_recall": 0.7300000190734863, + "covertype_test_f1-score": 0.7179479002952576, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7300000190734863 + }, + "20": { + "covertype_test_loss": 0.5958043932914734, + "covertype_test_accuracy": 0.7306249737739563, + "covertype_test_precision": 0.7148124575614929, + "covertype_test_recall": 0.7306249737739563, + "covertype_test_f1-score": 0.719790518283844, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7306249737739563 + }, + "50": { + "covertype_test_loss": 0.5652124881744385, + "covertype_test_accuracy": 0.7490000128746033, + "covertype_test_precision": 0.7425682544708252, + "covertype_test_recall": 0.7490000128746033, + "covertype_test_f1-score": 0.7371720671653748, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7490000128746033 + } + } + }, + { + "seed": 2, + "val_metrics": { + "covertype_val_loss": 0.741554319858551, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7157157063484192, + "covertype_val_precision": 0.6937304139137268, + "covertype_val_recall": 0.7157157063484192, + "covertype_val_f1-score": 0.7005360722541809, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7157157063484192 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.7441877722740173, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6924999952316284, + "covertype_test_precision": 0.662848174571991, + "covertype_test_recall": 0.6924999952316284, + "covertype_test_f1-score": 0.6751987338066101, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6924999952316284 + }, + "5": { + "covertype_test_loss": 0.7250377535820007, + "covertype_test_accuracy": 0.6994736790657043, + "covertype_test_precision": 0.6692084670066833, + "covertype_test_recall": 0.6994736790657043, + "covertype_test_f1-score": 0.682824969291687, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6994736790657043 + }, + "10": { + "covertype_test_loss": 0.7028024792671204, + "covertype_test_accuracy": 0.7088888883590698, + "covertype_test_precision": 0.676975667476654, + "covertype_test_recall": 0.7088888883590698, + "covertype_test_f1-score": 0.691632866859436, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7088888883590698 + }, + "20": { + "covertype_test_loss": 0.6929247975349426, + "covertype_test_accuracy": 0.7081249952316284, + "covertype_test_precision": 0.6746556162834167, + "covertype_test_recall": 0.7081249952316284, + "covertype_test_f1-score": 0.6899336576461792, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7081249952316284 + }, + "50": { + "covertype_test_loss": 0.6636824011802673, + "covertype_test_accuracy": 0.7210000157356262, + "covertype_test_precision": 0.6797364950180054, + "covertype_test_recall": 0.7210000157356262, + "covertype_test_f1-score": 0.6996405720710754, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7210000157356262 + } + } + }, + { + "seed": 3, + "val_metrics": { + "covertype_val_loss": 1.03726065158844, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.66266268491745, + "covertype_val_precision": 0.6329233050346375, + "covertype_val_recall": 0.66266268491745, + "covertype_val_f1-score": 0.61103355884552, + "covertype_val_support": 999.0, + "covertype_val_score": 0.66266268491745 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 1.056931734085083, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.6434999704360962, + "covertype_test_precision": 0.6122477054595947, + "covertype_test_recall": 0.6434999704360962, + "covertype_test_f1-score": 0.5866557955741882, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.6434999704360962 + }, + "5": { + "covertype_test_loss": 1.0005931854248047, + "covertype_test_accuracy": 0.6552631855010986, + "covertype_test_precision": 0.6282849311828613, + "covertype_test_recall": 0.6552631855010986, + "covertype_test_f1-score": 0.6005982756614685, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.6552631855010986 + }, + "10": { + "covertype_test_loss": 0.9608460664749146, + "covertype_test_accuracy": 0.6677777767181396, + "covertype_test_precision": 0.6474053859710693, + "covertype_test_recall": 0.6677777767181396, + "covertype_test_f1-score": 0.616580069065094, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.6677777767181396 + }, + "20": { + "covertype_test_loss": 0.9266243577003479, + "covertype_test_accuracy": 0.6681249737739563, + "covertype_test_precision": 0.6464754343032837, + "covertype_test_recall": 0.6681249737739563, + "covertype_test_f1-score": 0.6188660860061646, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.6681249737739563 + }, + "50": { + "covertype_test_loss": 0.881650447845459, + "covertype_test_accuracy": 0.6679999828338623, + "covertype_test_precision": 0.6550184488296509, + "covertype_test_recall": 0.6679999828338623, + "covertype_test_f1-score": 0.617185115814209, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.6679999828338623 + } + } + }, + { + "seed": 4, + "val_metrics": { + "covertype_val_loss": 0.6350667476654053, + "lr": 0.0010000000474974513, + "covertype_val_accuracy": 0.7367367148399353, + "covertype_val_precision": 0.6987573504447937, + "covertype_val_recall": 0.7367367148399353, + "covertype_val_f1-score": 0.714956521987915, + "covertype_val_support": 999.0, + "covertype_val_score": 0.7367367148399353 + }, + "test_metrics": { + "0": { + "covertype_test_loss": 0.6344894170761108, + "lr": 0.0010000001639127731, + "covertype_test_accuracy": 0.7204999923706055, + "covertype_test_precision": 0.6879599094390869, + "covertype_test_recall": 0.7204999923706055, + "covertype_test_f1-score": 0.6992500424385071, + "covertype_test_support": 2000.0, + "covertype_test_score": 0.7204999923706055 + }, + "5": { + "covertype_test_loss": 0.6157242059707642, + "covertype_test_accuracy": 0.7300000190734863, + "covertype_test_precision": 0.7051843404769897, + "covertype_test_recall": 0.7300000190734863, + "covertype_test_f1-score": 0.7128976583480835, + "covertype_test_support": 1900.0, + "covertype_test_score": 0.7300000190734863 + }, + "10": { + "covertype_test_loss": 0.6007377505302429, + "covertype_test_accuracy": 0.7338888645172119, + "covertype_test_precision": 0.7142117023468018, + "covertype_test_recall": 0.7338888645172119, + "covertype_test_f1-score": 0.71953946352005, + "covertype_test_support": 1800.0, + "covertype_test_score": 0.7338888645172119 + }, + "20": { + "covertype_test_loss": 0.5831945538520813, + "covertype_test_accuracy": 0.7350000143051147, + "covertype_test_precision": 0.7213751077651978, + "covertype_test_recall": 0.7350000143051147, + "covertype_test_f1-score": 0.72300124168396, + "covertype_test_support": 1600.0, + "covertype_test_score": 0.7350000143051147 + }, + "50": { + "covertype_test_loss": 0.5548248887062073, + "covertype_test_accuracy": 0.7480000257492065, + "covertype_test_precision": 0.7454531192779541, + "covertype_test_recall": 0.7480000257492065, + "covertype_test_f1-score": 0.7345747351646423, + "covertype_test_support": 1000.0, + "covertype_test_score": 0.7480000257492065 + } + } + } + ], + "summary": { + "0": { + "covertype_test_loss": { + "mean": 0.7498475313186646, + "std": 0.17707593401695698, + "n": 5, + "ci95": 0.2198335639959849 + }, + "lr": { + "mean": 0.0010000001639127731, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_accuracy": { + "mean": 0.6962999939918518, + "std": 0.03130815871138494, + "n": 5, + "ci95": 0.038867981410825765 + }, + "covertype_test_precision": { + "mean": 0.6773951411247253, + "std": 0.04219200279280958, + "n": 5, + "ci95": 0.05237989226239899 + }, + "covertype_test_recall": { + "mean": 0.6962999939918518, + "std": 0.03130815871138494, + "n": 5, + "ci95": 0.038867981410825765 + }, + "covertype_test_f1-score": { + "mean": 0.6689756155014038, + "std": 0.04697972564686624, + "n": 5, + "ci95": 0.0583236823334513 + }, + "covertype_test_support": { + "mean": 2000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.6962999939918518, + "std": 0.03130815871138494, + "n": 5, + "ci95": 0.038867981410825765 + } + }, + "5": { + "covertype_test_loss": { + "mean": 0.7213337898254395, + "std": 0.16202495337321668, + "n": 5, + "ci95": 0.20114829919748797 + }, + "covertype_test_accuracy": { + "mean": 0.706000006198883, + "std": 0.03061148731004599, + "n": 5, + "ci95": 0.03800308829059096 + }, + "covertype_test_precision": { + "mean": 0.6884063005447387, + "std": 0.03969601940266658, + "n": 5, + "ci95": 0.04928121638994885 + }, + "covertype_test_recall": { + "mean": 0.706000006198883, + "std": 0.03061148731004599, + "n": 5, + "ci95": 0.03800308829059096 + }, + "covertype_test_f1-score": { + "mean": 0.681331467628479, + "std": 0.04660831993914181, + "n": 5, + "ci95": 0.05786259516838406 + }, + "covertype_test_support": { + "mean": 1900.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.706000006198883, + "std": 0.03061148731004599, + "n": 5, + "ci95": 0.03800308829059096 + } + }, + "10": { + "covertype_test_loss": { + "mean": 0.7004639267921448, + "std": 0.1509767298152394, + "n": 5, + "ci95": 0.18743231698873697 + }, + "covertype_test_accuracy": { + "mean": 0.7136666655540467, + "std": 0.02740190033185802, + "n": 5, + "ci95": 0.0340184985817342 + }, + "covertype_test_precision": { + "mean": 0.6965599179267883, + "std": 0.033428680868843146, + "n": 5, + "ci95": 0.041500535326152575 + }, + "covertype_test_recall": { + "mean": 0.7136666655540467, + "std": 0.02740190033185802, + "n": 5, + "ci95": 0.0340184985817342 + }, + "covertype_test_f1-score": { + "mean": 0.6909876704216004, + "std": 0.04304661061931805, + "n": 5, + "ci95": 0.05344085791740565 + }, + "covertype_test_support": { + "mean": 1800.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7136666655540467, + "std": 0.02740190033185802, + "n": 5, + "ci95": 0.0340184985817342 + } + }, + "20": { + "covertype_test_loss": { + "mean": 0.6827352046966553, + "std": 0.14284764496826047, + "n": 5, + "ci95": 0.17734034314792127 + }, + "covertype_test_accuracy": { + "mean": 0.7142499923706055, + "std": 0.027805136021826028, + "n": 5, + "ci95": 0.03451910155383293 + }, + "covertype_test_precision": { + "mean": 0.695845091342926, + "std": 0.03382718726900023, + "n": 5, + "ci95": 0.04199526705075471 + }, + "covertype_test_recall": { + "mean": 0.7142499923706055, + "std": 0.027805136021826028, + "n": 5, + "ci95": 0.03451910155383293 + }, + "covertype_test_f1-score": { + "mean": 0.6927653074264526, + "std": 0.043280356812197135, + "n": 5, + "ci95": 0.05373104562098248 + }, + "covertype_test_support": { + "mean": 1600.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.7142499923706055, + "std": 0.027805136021826028, + "n": 5, + "ci95": 0.03451910155383293 + } + }, + "50": { + "covertype_test_loss": { + "mean": 0.6511962175369262, + "std": 0.1356615983957489, + "n": 5, + "ci95": 0.1684191182629797 + }, + "covertype_test_accuracy": { + "mean": 0.723800003528595, + "std": 0.033267113502071385, + "n": 5, + "ci95": 0.041299955104678314 + }, + "covertype_test_precision": { + "mean": 0.7129278898239135, + "std": 0.04251135737971014, + "n": 5, + "ci95": 0.05277635978581802 + }, + "covertype_test_recall": { + "mean": 0.723800003528595, + "std": 0.033267113502071385, + "n": 5, + "ci95": 0.041299955104678314 + }, + "covertype_test_f1-score": { + "mean": 0.7004810690879821, + "std": 0.04905558038216014, + "n": 5, + "ci95": 0.06090078321015146 + }, + "covertype_test_support": { + "mean": 1000.0, + "std": 0.0, + "n": 5, + "ci95": 0.0 + }, + "covertype_test_score": { + "mean": 0.723800003528595, + "std": 0.033267113502071385, + "n": 5, + "ci95": 0.041299955104678314 + } + } + } +} \ No newline at end of file